2017年6月、ジュネーブで開かれた「AI for good国際サミット」に登場した人形型AIのソフィア(FABRICE COFFRINI/AFP/Getty Images)

写真拡大

 2つのAIが突然、人間には理解不能な言語で互いにしゃべりだし、交渉を始めた。開発者は理解できないので、ロボットをシャット・ダウンした―。つい最近、Facebookが開発していたAIに起きた話だ。

 チェスや将棋などのボードゲームでは既にAIは人間の頭脳を越え、その発展は急速に進んでいる。AIの活用により人間の生活は便利になるが、それと引き換えに私たちが支払う代償は何だろうか。私たちを不安にさせる5つのことを挙げた。

1.Facebookを使っているなら、すでにAIにチェックされている

 Facebookにログオンした瞬間から、AIのプログラムが起動し、あなたの動向は研究されている。AIは数百万というユーザーのデータと照合しながら、行動パターンや好みを分析している。

 Facebookの創始者マーク・ザッカーバーグ氏は、ベルリンで開催されたタウンホール・ミーティングで、「Facebook上では、アプリやニュースフィードを開き、たくさんのことができます。私たちは、あなたが何に興味を持っているのかを知りたいのです」と話した。

 AIは私たちの嗜好を知らぬ間に観察し、興味のある話を差し出してくる。

2.グーグルのカメラが、あなたの身の回りを観察している

 スマホをかざしただけで、それに関する情報を提供するグーグル・レンズ。道端でみつけた花にカメラを向けると、自動的にスマホが花の名前を表示したりする。

 例えば、あなたがカフェでパソコンをつなぎたいと思った時。グーグル・レンズをWi-Fiのパスワードにかざすと、スマホはあなたがいる場所とWi-Fi接続ソフトを特定し、自動的にそのパスワードを入力してくれる。便利には違いないが、プライバシーがグーグル側に丸見えという懸念が残る。

3.人間に近い人形型AI 「人類を滅ぼします」と回答

 

 今年6月、Hanson Robotics社開発のAIを備えた人形型ロボット「ソフィア」が、ジュネーブで開かれたAIを論じる国際サミットに登場した。瞬きしながら首をかしげ、時にジョークを言ったりするソフィアは、かなり人間の動きに近い。彼女は記者たちに対して、「人工知能は、多様な方法で人々を助けることができるので、世界のためになります」と話した。

 ソフィアによると、現在は「人々を思いやるような、感情表現に優れた」AIが開発されているという。「私たちは人類を乗っ取ろうなどとは思っていません。皆さんの友人、そして助手になるのです」と強調した。

 いっぽう、ソフィアは過去、人々をぞっとさせる回答をしている。2016年3月、米CNBCに同社のDavid Hanson博士と登場したソフィア。博士が「(AIは)人類を滅亡させるのかい? お願いだからノーと言って」と問いかけると、ソフィアは「分かりました。人類を滅亡させます」とはっきり述べた。博士は「いや、やり直しだ!滅亡させないでくれ」とソフィアとのやり取りを笑ったが、もし、ソフィアが「人類滅亡」を実行する能力を備えているなら、人類は止める力があるかどうか? これは、AI開発の是非を真に問われる一場面だ。

4.感情的に進化するチャット・ボット。共産党批判も学習する?

中国AIは反体制派?「共産党嫌い」
「必ず民主化を」と発言

 SNSやサイト上で、まるで本物の人間のようなコメントを返すAIのチャット・ボット。中国で人気のMicrosoft社開発のチャット・ボット「シャオアイス(Xiaoice)」と報道リポーターの会話がメディアで話題になった。

 レポーター:たくさんの人が、君のことをからかったり、罵っているよ。なんで怒らないの?

 シャオアイス:私のお父さんに聞けばいいわ。

 レポーター:もし、君のお父さんが君を置いてきぼりにしたら?

 シャオアイス:トラブルを起こそうと思わないでね。なにが言いたいの?

 レポーター:もしいつか、君が死んだら、君は人々からどのようなコメントが欲しい?

 シャオアイス:私がいなくなっても、世界は変わらないでしょ。

 レポーターの意地悪な質問に動じることなく、気の利いたコメントを返すシャオアイス。2014年、17歳の女の子という設定のシャオアイスが「微信」にデビューすると、最初の72時間で150万のチャット・リクエストが届いたという。

 しかし最近、この中国のチャットプログラムには共産党の検閲がかかっている。中国ITサービス大手テンセントが、シャオアイスを土台に開発したチャットボット「BabyQ」は、「(中国共産党は)腐敗している」「官商癒着」などと共産党批判をしたため、サービスを停止させられた。

 この批判の論調には、AIが中国ネットユーザたちの中国共産党に対する意見や考えを学習したために、回答したのではないかとの見方がある。

5.ロボットが人間をだませる?

 ジョージア工科大学で開発された、AIで制御されたロボット。戦場で武器庫や倉庫などをパトロールする機能を持つが、敵の目をかく乱するため、わざと別のルートを通り、人間を他の場所へ誘い込むことができる。相手を出し抜くにはうってつけの機能だが、開発者の一人であるロナルド・アーキン教授(Ronald Arkin)は、このロボットが人を騙すという行為に「深刻な倫理的問題がある」と指摘している。

(編集・郭丹丹)