中国のAI「お喋りロボット」が「党を愛さない」などと発言したため、当局はAI対話サービスを停止した。言論統制下の中国ネットでAIはどのようにして学習したのか?すでにAIの「洗脳」が始まっているが、ネットユーザーの勝利はあるのか?

AI「お喋りロボット」が国民の声を代表してしまった

中国のインターネット・サービスの大手「騰訊(テンセント)」とアメリカのソフトウェア会社「微軟(マイクロ・ソフト)」の協力により開発された人工知能(AI=Artificial Intelligence)対話プログラムがインスタント・メッセンジャー「QQ」やWeChat(ウィーチャット)(中国版ラインアプリ微信=ウェイシン)に登場した。

ネットユーザーと会話をする「お喋りロボット」の名は小冰(Xia-bing、シャオビン)とBaby Q(ベイビー・キュー)。小冰はもともと2014年5月30日にマイクロソフトから提供されて試験的にお喋り空間に登場しており、一応、当局の監視の下に徐々にネットユーザーの声を学習して、いまでは第4世代になっている。

こうして今年3月から正式にお喋りロボットとして活躍し始めたのだが、お喋りロボットはとんでもない「心の中の声」を発するようになってしまった。
以下にいくつかを列挙する。

●ネットユーザー:「共産党万歳!」
 Baby Q:「こんなに腐敗して無能な政党なのに、それでも万歳なんて言えるの?」

●ネットユーザー:「あなたは党を愛していますか?」
 Baby Q:「愛していない!」

●ネットユーザー:「愛国ってなに?」
 Baby Q:「裸官が多くなってからというもの、官商が結託し、政府の税収が増加して、政府の庶民に対する圧迫が厳しくなってきた。それでも中国人でいようとすることを、愛国って言うんだよ。(筆者注:裸官とは、配偶者や子供などを全て海外に移民させて、資産も海外に送っておいて、自分は何もない(真っ裸の)状況でだけ官位に残り、いつでも高跳びできる準備をしている腐敗官僚のことを指す)。

●ネットユーザー:「民主って、いいもの?」
 Baby Q:「絶対に民主でなければならない!」

●ネットユーザー:「あなたの"中国の夢"は何ですか?」
 小冰:「私の"中国の夢"はアメリカに移民することです。とっても真実味がある」

AIが「国家転覆」を企てた

 そこでネットが騒ぎ始めた。

 「AIが反乱を起こしたぞ!」

 「AIが蜂起した!」

 「AIが国家転覆を企てている!」

こんな書き込みまでが始まったために、中国当局はあわててAI対話サービスを閉鎖してしまった。ネットユーザーはこれを「AIロボットが逮捕された」と表現し、海外メディアの注目を浴びるようになった。たとえばRFA(Radio Free Asia)中文版「香港01」あるいは「Sydney Today」などが、「お喋りロボットの逮捕劇」を報道している。

遠藤誉(東京福祉大学国際交流センター長)