ディープラーニングは致命的に危険？「賢い」人工知能は人間を襲うのか

今回の記事では、ディープラーニングの定義と危険性を説明する。

ハードウェアの性能向上によって大量のデータを蓄積できるようになり、ソフトウェアの進歩によって大量のデータを処理できる時代になった。この結果、近年ニューラルネットワークを介した多層的な機械学習技術である「ディープラーニング」が生み出された。画像認識や商品検索などの分野で商用利用も開始されており、ディープラーニングなしにこれからの社会設計を考えることはできないだろう。

しかし、その一方でディープラーニングの利用に対する疑念も生じている。あまりに「優秀」であるがゆえに、人間社会に危険を及ぼしかねないというのだ。それはどういう意味なのか？ここでは、ディープラーニングの持つ危険性に焦点を当てることにしよう。

ディープラーニングとは？

ディープラーニングは、人間のように自分で考えて学習する能力を人工知能に持たせるための方法と言える。典型的なアルゴリズムは、「If～Then」のように、人間の知識を一つ一つ置き換えることで、人間と同様の処理をさせようという思想を持っている。しかし、これではきりがない。「人間の知識」を取り出すのも、プログラムをメンテナンスするのも大変だ。簡単な処理をプログラムで行うならまだしも、「人間のように考えさせる」という目標を達成するための手段として、こうしたアルゴリズムは適していない。ディープラーニングがかつてのプログラムと異なるのは、かつてのプログラムがデータ認識の基準を人間に定義してもらわなければ行けなかったのに対し、ディープラーニングがその基準＝「特徴量」を自ら抽出できる点である。

例えば、10円玉と100円玉の違いを、人間は色や形などで見分けている。従来のアルゴリズムでは、「色」「形」などといった認識基準を人間が打ち込む必要があった。ところがディープラーニングでは、コインに関するビッグデータを学習し、自ら認識基準を抽出できるようになった。このように、データを取り込むプロセスで自律的に学習していくのがディープラーニングの特徴である。

ディープラーニングの危険性

このような画期的な技術であるディープラーニングだが、あらゆる新技術が浴びてきたのと同様に、やはり批判的な指摘を受けている。

悪意ある人間による悪意ある学習

入力するデータの質によって、人工知能が悪意を持つ可能性がある。子どもがよからぬ環境で悪影響を受けるのと似ているが、ディープラーニングはより「よからぬ環境」の悪影響を正確に与えることができる。具体的には、テロリストがディープラーニングを悪用したらどうなるのか。例えば、情報ネットワークの厳重なセキュリティを「人工知能テロリスト」が破り、核のボタンを操作するに至ったら？ ディープラーニングが素晴らしい技術であるほど、悪意ある人間に利用されたときの危険性が高まる。

エラー時の対応

ディープラーニングの実用化が進むことで、人工知能が予期せぬエラーに陥ったときの対応が急務となってきつつある。例えば、医療・介護やインフラ制御のように、人命をあずかる業務に人工知能が携わった際、エラーによって暴走するときわめて危険だ。エラーを厳重に予防し、エラーが起きてもよいようなフェールセーフの思想がより重要さを増す。

人工知能の「反乱」とシンギュラリティ

SFの定番と言えば「人工知能の反乱」である。アイザック・アシモフの古典的小説『われはロボット』から、『2001年宇宙の旅』『火の鳥未来編』『マトリックス』…人間を超える知恵を持った人工知能が人間に危険を及ぼすというストーリーは膨大に存在する。こうしたフィクションが、ディープラーニングの登場によって現実味を帯びつつある。2045年頃には、人工知能が人間の能力をはるかに超越し、人間が人工知能と限りなく融合するとともに、人間の生活が甚大な影響を受けると言われている。これを「シンギュラリティ」あるいは「技術的特異点」と呼ぶ。

人類がシンギュラリティを経験したときに、何が起きるのか。SFのように、限りなく合理的な人工知能が人間を「不要」と見なして排除し始めたら？　荒唐無稽に感じるかもしれないが、「何が起きるか分からない」のがシンギュラリティである以上、むげに排除することもできない未来予測の一つなのである。

ディープラーニングのもたらす恩恵を最大限享受し、危険性を可能な限り抑えるためには、まずもって人間の倫理観が問われる。データをインプットする人間の倫理が、人工知能のクオリティを決定的に左右するからである。また、人工知能が暴走しないための「ブレーキ」をどこにどのように設定するのかもカギとなってくる。シンギュラリティの起きる2045年まで、残り30年を切った