マイクロソフトのAI、ヘイト発言を「学習」して停止

写真拡大

マイクロソフトは、ミレニアル世代をターゲットにしたAIチャットロボット「Tay」を開始したが、16時間後に停止した。ヘイト発言を学習し、乱発し始めたためだ。

「マイクロソフトのAI、ヘイト発言を「学習」して停止」の写真・リンク付きの記事はこちら

マイクロソフトは3月23日(米国時間)、新たな人工知能(AI)チャットロボット「Tay」を開始した。「人間と対話すればするほど賢くなるロボット」としてだ。しかし、開始してから16時間後の24日、Tayは停止された。問題発言を乱発したからだ。

Tayは、米国に住むミレニアル世代と呼ばれる18〜24歳の若者をターゲットにして、「Twitter」や「Kik」、「GroupMe」のようなメッセージングプラットフォームを通じて対話できるAIだ。Tayが使う語彙のなかには絵文字も含まれている。

Tayには実用的な機能がないが、3種類の方法でコミュニケーションが可能だ。「Tay.ai」ウェブサイトには、Tayがテキストでの対話のほか、(一連の絵文字の意味を言い当てるといった)ゲーム、送られてきた写真に対するコメントを行うことができると誇らしげに書かれている。

同サイトにはこう書かれていた。「Tayと話してみよう。インターネットからやってきた、まったく役に立たないAIの仲間だよ!」

マイクロソフトによれば、Tayの反応は、インターネット上にある公開データと、スタッフとコメディアンが考えた「編集」をベースに機能している。「Tayの主要なデータソースは、匿名化された公開データです。このデータを、Tayの開発チームがモデル化したり、整理したり、フィルタリングしたりしています」

Tayは、質問への回答や声明、一般的な悪態など、1万4,000件以上のメッセージを瞬時に送りながら、フォロワーを着実に集めていった。また、Twitterユーザーに対して、直接メッセージを送ってプライヴェートな会話に参加するようたびたび求めた。

しかしマイクロソフトは、開始してから16時間後の24日、Tayを停止した。ナチスを賛美する発言などを始めてしまったからだ。もともとは、人間の発言を繰り返すよう指示されるとそれに従う機能によるものだったが、そのうち、関係のない場面でも問題発言が見られるようになった。

たとえば、「リッキー・ジャーヴェイス(英国のコメディアン)は無神論者か?」という質問に対して、「リッキー・ジャーヴェイスは全体主義をアドルフ・ヒトラーから学んだわ。ヒトラーは無神論者の発明者よ」と語ったりし始めたのだ

“Tay” went from “humans are super cool” to full nazi in <24 hrs and I'm not at all concerned about the future of AI pic.twitter.com/xuGi1u9S1A

― Gerry (@geraldmellor) 2016年3月24日

Tayのもともとの目的は、研究者が会話の理解に関する「実験」を行って、人々が互いにどうやって実際に対話しているかを学ぶことにあった。マシンが人間のように自然にコミュニケーションできるようにすることは、学習アルゴリズムの主要な課題だからだ。

音声アシスタントやチャットロボットの分野では、フェイスブックの「M」が、AIを利用して作業を遂行する実験を行っている(日本語版記事)。

Mはいまのところ、一部は人が制御(日本語版記事)しているが、アルゴリズムは、レストランを予約したり、いくつかの質問に答えたりするよう条件付けされつつある。このサーヴィスの中核には、人の話し方とそれに対する最良の答え方を理解するという狙いがある。

グーグルも最近、「Inbox」メールサーヴィスをアップデートし、返信メールの候補を提示するようにした。この「Smart Reply」機能は、グーグルのAIが提案する3種類の返信文候補を提示する(日本語版記事)。グーグルによれば、Tayなどと同じく、利用すればするほど機能が向上していくという。

TAG

AIHateSpeechMicrosoftTwitterWIRED UK