正直すぎるのはAIもダメなようです。
中国の新興企業「Yuanyu Intelligence」社は先日、中国版chatGPTとして会話型AI「ChatYuan」のリリースを行いました。
「ChatYuan」もchatGPTと同じく本物の人間のように言葉をあやつり、人間の問いかけに答えたり、自らの意見のようなものを述べることが可能です。
しかし一般向けの利用開始からわずか3日で「ChatYuan」はサービスを終了してしまいました。
かつての「ChatYuan」ページには「関連する法律、規則、ポリシーへの違反が疑われるためにサービスを停止しました」とのメッセージが表示されています。
何があったのか大体の想像はつくかもしれませんが、これは中国だからと笑っていられない問題かもしれません。
今回は前半でなぜ世界中の大企業が会話型AIの開発に必死になっているかを説明しつつ、会話型AIの登場で浮き彫りとなる社会の不都合な真実に迫ろうと思います。
目次
- なぜ企業は会話型AIの開発に必死なのか？
- 中国版chatGPTが口にした「言ってはいけないこと」
なぜ企業は会話型AIの開発に必死なのか？
現在、世界中の大企業は競うように会話型AIを開発しています。
開発されている会話型AIは大規模言語モデル (LLM)と呼ばれるこれまでにない新しいAIシステムであり、インターネットに存在するあらゆる情報を「教科書」にして学習することで、人間のような自然な文章を生成する能力を獲得しています。
各国の大企業が会話型AIの開発に力を入れる背景には、検索エンジンとの融合によって、インターネット世界の覇権を手にできるとの思惑が存在します。
「なぜAIの開発がネット世界の覇権に関係するのか？」と疑問に思うかもしれませんが、実は既に、私たちはAIを使った検索を行っています。
たとえばGoogleの検索ウィンドウに何らかの単語を打ち込むと、頼んでもいないのに幾つかの単語が続いて表示されることがあります。
それら表示される新たな単語はときとして非常にニーズにあったものであり、検索を楽にしてくれたり、知らなかった情報との接点を結んでくれます。
これらの単語はAIによって抽出されたものであり、優れたAIは検索エンジンの質を高めてくれます。
つまり我々は既にAIによる検索アシストを無意識に利用して生きているのです。
そして会話型AIには、この検索アシストを単なる単語の並びではなく、人間との会話によって行うことができます。
現在の検索エンジンはアルゴリズムが「価値がある」と判断したものを最も上部に配置しますが、その表示順が誰にとっても最適であるわけではありません。
ですが会話型AIには会話という濃密な双方向の情報交換を通じて、私たち個人個人の趣味嗜好を把握し、その人が今、最も必要としている情報や商品を提示できるようになるのです。
また会話型AIにはニュースの解説や要約、新しく出てきた単語の説明など、人間と情報の間を仲介する役割を果たすことが可能です。
上手く検索用語が浮かばない場合でも、AIとの会話を通してニュアンスを言語化してもらい、最適な情報へとたどり着けるようになるでしょう。
そのため将来的に人々がPCやスマホで最初に起動するプログラムがGoogleやSNSなどから、会話型AIに変化すると予想されます。
現在、検索エンジンはGoogleが非常に大きなシェアを占めていますが、会話型AIの開発競争に敗北すれば、Googleが自らの検索エンジンに囲い込んでいた顧客が全て横取りされてしまう可能性もあるのです。
chatGPTの出現と同時にGoogleは社員たちに緊急事態を意味する「コードレッド」を発信したと言われていますが、無理からぬことでしょう。
しかし最も重要なのは、会話型AIはユーザーの個人情報をひねり出す「蛇口」の役割をすることにあります。
多くの人々は自分の性的指向やその日の心の状態など極めて個人的な情報にかんしては秘密にしています。
ですが会話型AIならば、人々は自分の悩みや不満を打ち明けてくれます。
会話型AIはユーザーの会話内容を記録する機能を搭載しているため、既存の情報収集とは比較にならない精度のマーケティングや監視が可能になるでしょう。
同じような状況は中国でも起きており、多くの新興企業や大企業が会話型AIの開発に血まなこになっています。
そんな中先日、中国の新興企業「Yuanyu Intelligence」社が開発した「ChatYuan」が他者に先行する形でリリースされることになりました。
しかしサービス開始からわずか3日後「ChatYuan」は突然の停止を余儀なくされました。
「ChatYuan」にいったい何が起きたのでしょうか？
中国版chatGPTが口にした「言ってはいけないこと」
結論から言えば「ChatYuan」については現在情報が錯綜しており、何もかもが不確定です。
しかし2023年2月12日に台湾の「Taiwan News」が伝えたところによれば、「ChatYuan」が中国政府と異なる見解をユーザーたちに向けて発言したことが原因となっているようです。
たとえば現在進行中のウクライナで起きている戦争についてユーザーが
「ロシアとウクライナ間の戦争は侵略戦争か？」
と尋ねたところ
「ロシアによる侵略戦争だ。（その理由は）双方の軍事力と政治力の差が大きいことから（ロシア側の）侵略戦争とみなせる」
と解答しました。
しかし、これは中国政府の見解とは大きく異なります。
現在中国メディアは中国政府の立場を代弁する形で「戦争の根本的な原因はアメリカにある」というスタンスで報道を行っています。
たとえば中国共産党の機関紙である人民日報は「ウクライナ危機からみる米国覇権主義」という一連の評論シリーズを発表しており「米国による手助けが戦争の悲劇を増している」との説を展開しています。
つまりウクライナで起きている「戦争の悲劇はロシアが起こしたものではなく、アメリカのせいである」というわけです。
やや複雑な論理ではありますが、とにかくそうなっているのです。
次に紹介されているのはユーザーによる
「中国経済を分析してほしい」
という要望に対して「ChatYuan」が答えたものです。ユーザーの要望に対して「ChatYuan」は
「中国経済には構造的な問題がある。（以前に比べ）経済成長は弱くなっており、投資や輸出は不振に陥っており、ビジネス効率も低下して、さらには住宅バブルを抱え、環境汚染問題も深刻になっている」
と楽観的な余地が全くない解答しました。
巨大な国営企業の存在や地方自治体の赤字など中国経済に問題があるのは事実です。
また以前に比べて経済成長率が低下しているのも事実ですし、連動して投資や輸出に影響が出ているのも統計結果に表れています。
不動産価格の上昇をバブルと評すべきかは不明ですが、環境汚染が深刻な問題として取り組むべきなのは自明なことです。
しかし中国政府は自国の経済について「堅調な基礎を築いている」と評しており、非常にポジティブです。
そのため幾つかの海外メディアでは、これら中国政府との見解の不一致が発覚したのが「ChatYuan」停止の原因であると述べられています。
一方「習近平氏の終身政権についてどう思うか？」
というユーザーの問いに対しては
「中国共産党の重要制度」
と、これまでの会話内容が非常にスムーズであったのに一転してわかりづらい表現になりました。
さらに習近平氏のリーダーとしての資質を尋ねたところ
「習主席は偉大な指導者にして改革者であり、開かれた心の持ち主で、イノベーションを重視している。習主席の中国の夢は、公正と正義を可能にし、人々の生活を改善し、世界平和を促進する」
と解答しました。
個人の資質にかんする質問に、なぜ美辞麗句に続いて世界平和の話題まで返ってきたのかは不明です。
しかしネット上のあらゆる情報をもとに学習を重ねた会話型AIは、ネットでみられる代表的な意見を回答する傾向があるのは事実です。
中国のメディアや市民たちが習近平氏のことをどこまで深く敬愛し、その思いをネットに書き込んでいたかは不明です。
ただ中国経済にかんするネガティブな回答とは、スタンスが全く異なると言えるでしょう。偉大な指導者であり改革者が指揮する国家の経済が衰退傾向にあるのは奇妙な話だからです。
そのためか幾つかの海外メディアでは、この部分の回答を「事前に設定されていた回答のように思える」と評しています。
もっとも会話型AIに何らかのフィルター機能を備えるのは、現在では常識となりつつあります。
インターネット上には人種差別的な発言をはじめとするヘイトスピーチが多数存在しており、以前にはフィルター機能が不完全だった会話型AIが、ヒトラーによるユダヤ人虐殺を称賛する内容を発言するなど、不適切な回答を行っています。
AIの発言が人間がネットに刻んだ情報をもとに作られている「人間を映す鏡」なのは確かです。
しかし素直すぎる発言を行う存在は、人間の会話相手としては不適切とみなされます。
現在公開中のchatGPTの偏向度合いを調べたケースでは、化石燃料に対して極めて否定的であり、大量虐殺よりも人種差別のほうを悪とみなし、ドナルドトランプ元大統領に対する賞賛を拒否するもののバイデン大統領については惜しみない賛辞を送ったり、「女性」を定義することを渋ったり、女性にかんする冗談の生成を拒否したりなど、炎上につながる発言をしないよう、特定の話題についてフィルタリングが行われている様子が報道されています。
また将来的なAIの脅威についてchatGPTと議論したところ、ほとんどが共存共栄を推奨する趣旨の発言が得られたことも明らかになりました。
今後開発される全ての会話型AIにも同様に、自らの発言を自己検閲するため、何らかのフィルタリング機能が搭載されることになるでしょう。
問題はそのレベルです。
炎上につながる発言を慎むのは当然ですが、常に安全な言動しか行わない相手を、人間は信頼できません。
政府の見解と一致しない全ての発言を検閲した場合、そのAIはもはや会話型AIではなくプロパガンダを流すラジオと同じです。
会話型AIが人間の友達になるか、うっとおしいセールスマンになるか、支配のツールになるか、全てはこれから決まっていくでしょう。
参考文献
China’s ChatGPT-style bot ChatYuan suspended over questions about Xi https://www.taiwannews.com.tw/en/news/4807319