ボッシュ：人工知能の活用に関する「越えてはならない一線」を策定

ボッシュは、人工知能（AI）の活用に関して倫理的な「レッドライン（越えてはならない一線）」を定めた。

【概要：AI倫理指針のガイドライン】


・ボッシュの全てのAI製品は、社会的責任を持って技術革新を追求する「Invented for life」の精神を反映したものでなくてはならない


・人々に影響を及ぼすAIの意思決定に関しては、人間が最終判断を下さなくてはならない。むしろAIは人々のための道具として用いられるべきである


・ボッシュは、安全かつロバストで説明可能な AI 製品の開発を目指す


・信頼はボッシュの基本的なバリューのひとつである。ボッシュは信頼できるAI製品の実現を図る


・AI製品を開発する際は、法的要件および倫理指針に準拠する

　ボッシュはインテリジェントな製品におけるAIの活用に関してガイドラインを発行した。ボッシュのAI倫理指針は「AIを用いた意思決定においては、いかなる場合も人間が最終判断を下さなくてはならない」という原則に基づいている。




「AIは人々の役に立つものであるべきです。ボッシュはAI倫理指針によって、インテリジェントな製品の開発における明確なガイドラインを従業員に提供します」




　ボッシュCEOのフォルクマル・デナー氏は、ベルリンでのIoT年次カンファレンス、ボッシュコネクテッドワールド（BCW）のオープニングでこう述べた。




「AIを用いたボッシュ製品に対する信頼を得ることが、私たちの使命です」




　AIはボッシュにとって極めて重要なテクノロジーである。2025年までにボッシュは、全製品にAIを搭載する、または開発や製造にAIを活用することを目指している。ボッシュは、AIを用いた製品を安全かつロバストで説明可能なものにしたいと考えている。




「AIがブラックボックス化すれば、人々はAIを信頼しないでしょう。しかしネットワーク化された世界において、信頼は不可欠なものです」と、ボッシュのチーフデジタルオフィサー（CDO）兼チーフテクノロジーオフィサー（CTO）のミヒャエル・ボレ氏は述べている。




　ボッシュは、AIを用いた信頼できる製品の提供を目指している。この倫理指針は、社会的責任を持って技術革新を追求する、ボッシュの「Invented for life」の精神に基づいている。ボッシュは今後2年間で、AIの活用に関するトレーニングを2万人の従業員に実施する計画で、AIの責任ある活用について定めたボッシュのAI倫理指針も、トレーニングプログラムで扱われる予定。

AIがもたらす大きな可能性


　AIは発展と成長の世界的な原動力となっている。例えばコンサルティング企業のPwCでは、2030年までにAIによって中国では26%、北米では14%、欧州では約10%のGDP押し上げ効果が見込まれると予想している。




　AIは、クライメートアクションなどの課題を乗り越える一助となり、交通・医療・農業など多くの分野で最適な結果を実現する可能性を備えている。膨大なデータを分析することで、アルゴリズムが論理的に意思決定を行うことが可能となるのだ。そこでボッシュは、拘束力のあるEU規格が導入される前に、AIの活用によって提起される倫理的な問題に積極的に取り組む決断をした。取り組みの過程では、世界人権宣言に定められた価値基準を倫理的基盤としている。

人間がコントロールを維持

　ボッシュはAI倫理指針で、AIによる人間に関する意思決定は、いかなる場合も人間による何らかの監視下で実施されなくてはならないと定めている。むしろAIは人々の役に立つ道具でなくてはならない。




　AIに対しては3つのアプローチが可能。全てのアプローチが、ボッシュが開発するAIベースの製品ではAIが行ういかなる意思決定においても人間がコントロールを維持しなくてはならない、という点で共通している。


　第1のアプローチ（human-in-command／ヒューマンインコマンド）では、AIを補助としてのみ使用する。意思決定をサポートするアプリケーションなどがこれにあたり、AIは物体や生物といった品目を分類する手助けを行う。


　第2のアプローチ（human-in-the-loop／ヒューマンインザループ）は、AIが自ら意思決定を行うが、人間がいつでもその決定を覆すことができるというもの。これには、車の部分的な自動運転中に、駐車支援システムなどの意志決定にドライバーが直接介入できるといった例がある。


　第3のアプローチ（human-on-the-loop／ヒューマンオンザループ）は、衝突被害軽減ブレーキシステムなどのインテリジェントなテクノロジーに関するもの。この手法では、エンジニアが開発過程で一定のパラメーターを定める。意思決定のプロセスそのものに人間が介入することはない。AIは、パラメーターに基づいてシステムを作動させるか否かを決定する。エンジニアは、設定されたパラメーター内でシステムが作動しているか、さかのぼってテストを行う。これらのパラメーターは必要に応じて調整することができる。

信頼性を共に構築

　ボッシュはまた、このAI倫理指針が、AIに関する開かれた議論に貢献することを望んでいる。「AIは私たちの生活のあらゆる面を変えることでしょう。それゆえ、このような議論は不可欠です」とデナー氏は述べた。




　AIに対する信頼を構築するには、単なる専門知識以上のものが必要になる。政策立案者、科学界、一般市民の間での緊密な対話も求められるのだ。このような背景からボッシュは、欧州委員会が設置したAIの倫理的次元などの問題を検討する組織、High-Level Expert Group on Artificial Intelligenceに参画している。ボッシュは7拠点からなる世界規模のネットワークにおいて、また、アムステルダム大学およびカーネギーメロン大学（米国・ピッツバーグ）との共同研究で、より安全で信頼できるAIアプリケーションの開発に取り組んでいる。


　同様にボッシュは、バーデン・ヴュルテンベルク州にある研究アライアンス、サイバーバレーの創設メンバーとして、AIキャンパスの建設に1億ユーロを投資している。間もなくここで700人のエキスパートが、外部研究者やスタートアップの従業員と共に働くことになる見込み。


　また、ボッシュが設立した委員会Digital Trust Forumは、主要な国際組織や団体に属するエキスパートたちの緊密な対話を促進することを目指している。BCW 2020には、委員会の11のメンバーが集まる予定。「私たち共通の使命は、モノのインターネット化を安全かつ信用できるものにすることです」とボレ氏は述べている。

170人以上の登壇者、80以上の出展者が一堂に


　BCW（2020年2月19~20日）では80以上の出展者が一堂に会し、ネットワーク化された世界における最新動向や最新情報の展示を行う。170人以上の登壇者の中には、ボッシュCEOのフォルクマル・デナー氏、ボッシュCDO兼CTOのミヒャエル・ボレ氏に加え、Roland Busch氏（Siemens副CEO）、Axel Stepken氏（TÜV Süd取締役会会長）、Scott Guthrie氏（Microsoftクラウド+AIグループエグゼクティブバイスプレジデント）が含まれる。




　このイベントは、基調講演、大規模展示、ハッカソンなどを主な特徴としている。今年で7回目の開催になるBCWは、IoTに関する世界最大の国際会議のひとつ。