人工知能(AI)の意外な弱点とは……出来すぎると自滅する?

写真拡大

人工知能(AI)がブームを迎えている。AppleのSiri(シリ)をはじめAIによるチャットサービスが人気を集め、GoogleのAlphaGo(アルファ碁)が囲碁の世界チャンピオンに勝利。一方、AIに職を奪われて大量失業時代がやってくるとの予測もある。「教えて!goo」に寄せられた「人工知能について質問です。」の回答にも期待と不安が綴られている。かつてソニーでプランナーをしていたAll About社会ニュースガイドで作家の松井政就氏に話を聞いてみた。

■AIが間違いを連発した

「あれはまさにAIが人間の思考を上回っているという、一種の『常識』から発生した事件と言えます」。松井氏がそう話すのは、対局中に将棋ソフトをカンニングしたという不正疑惑で、プロ棋士がタイトル戦欠場に追い込まれた問題のことだ。調査の結果、そうした行為があったという証拠・物証は見つからず疑いは晴れたが、そのプロ棋士に深刻なダメージを残した。松井氏は「AIが人間より遙かに劣ると思われているなら、あのような疑いは生まれないはず」と強調する。

果たして人工知能は完全な存在なのか。マイクロソフトのチャットボット「Tay(テイ)」がユーザーのいたずらで差別的な言葉を学習させられたことは記憶に新しい。松井氏は「AIに弱点がないかと言われれば決してそうではない」とする。そして、弱点を持つAIは「常に最善の結果を求めるよう設計されているケースです」と指摘。その実例として前出のAlphaGoが世界最強の囲碁棋士を破った昨年の対局を挙げる。

「棋士がまったく歯が立たず3連敗を喫した後、第4局で棋士がAIを撃破しましたが、そのとき彼がどんな手を打ったか」と松井氏。「あえて最善の手を除外して打ったのです。すると突然、AIの手が悪くなり、やがて間違いを連発して自滅してしまったのです」と振り返る。

■出来の悪いプログラムをあえて残す

松井氏は「囲碁ではAIに連敗したように、一定の条件下において人間を凌駕しているのは事実です」と断った上で、「実は、AIにこうした弱点があることは以前より気づかれていました」とソニーのプランナー時代のエピソードを紹介した。

AIの専門家が「出来のよいプログラムばかりを組み合わせていくと、不思議なことにシステム全体がうまく機能しなくなる」とこぼしていたそうだ。AIの設計において「最善策を選ぶようなプログラムばかり積み上げると、おかしな結果になるというのです。よって、AIの学習能力を高めるには、出来の悪いプログラムもわざと残さなければいけないとのことでした。しかしそれはなかなか難しいため、AlphaGoのような例が生まれるのだと思われます」(松井氏)

松井氏は「高度になればなるほど最善策だけを残すやり方では動かなくなるというのは、人間社会とそっくりです。その点だけはAIから今すぐ学べることかもしれません」と分析する。

具体的な例を挙げるのは避けるが、確かに人間社会には必要悪とされるものが多々存在し、多様な価値観に基づく創造とひらめきが生み出されている。人間の仕事すべてがAIに取って代わられるのはまだまだ先かもしれない。

なお、「教えて!goo」でも2016年8月からAIの「オシエル」が恋愛相談に回答している。そつのない最善策をユニークに提案する様子は体験の価値あり。ぜひ試していただきたい。

●専門家プロフィール:松井政就
作家。政治、経済からスポーツ、エンタメまで幅広い分野に精通している。主な著作に「本物のカジノへ行こう!」(文春新書)「大好きなカレを落とす恋愛テクニック50」(オープンアップス)「経済特区・沖縄から日本が変わる」(光文社)など。「FORZA STYLE」(http://forzastyle.com/)で「SONY元異端社員の艶笑ノート」を連載開始。

(武藤章宏)

教えて!goo スタッフ(Oshiete Staff)