Googleの検索結果ページに、検索結果をAIがまとめて概要を表示してくれる機能が追加され始めています。この新たな「AIオーバービュー」機能が奇妙な回答を行っていると複数のユーザーが報告しました。

Should You Add Glue to Pizza Cheese? Google AI Says Yes

https://www.dailydot.com/debug/google-search-results-reddit-pizza-glue-cheese/



問題の件を投稿したのは下記のユーザー。「ピザにチーズがくっつかない」と検索したところ、AIは「8分の1カップの無毒な接着剤を追加する」と返答しています。





別のユーザーは調査を行い、おそらく11年前にRedditに投稿された「チーズをピザにくっつけるにはソースに8分の1カップの接着剤を混ぜるといいよ。ソースの接着性を高めてチーズが滑る問題を解決してくれるし、独特な風味も与えてくれる。どんな接着剤でも使えるよ、無毒な限りね」という冗談をGoogleのAIが学習してしまった結果として奇妙な回答が生成されてしまったのではないかと推測しています。





GoogleのAIオーバービュー機能が間違った回答を行ったという報告は他にも複数Xに投稿されています。下記のユーザーは「NBAに犬が出場したことってある？」と検索するとAIは「YES」という返答。





「アメリカの大統領の中で誰がウィスコンシン大学マディソン校出身ですか？」という質問に対して、GoogleのAIオーバービューは全体的に卒業年が新しすぎる上、1865年から1869年にかけて大統領だったアンドリュー・ジョンソンが1947年から2012年にかけて14個の学位を得たという間違いだらけの回答を行っています。なお、アンドリュー・ジョンソンは父母がともに読み書きできなかったという貧しい家の出身で、そもそも学校に通った経歴はありません。





また、「ガラガラヘビにかまれた時の対応」として「冷やす」という無意味な行為や「かまれた部位を切断したり毒を吸い出す」というむしろNGな行為を推奨しています。





里芋をゆでる時間について「15分から20分、もしくは1時間半」という何の参考にもならない回答。





「バットマンは警察官ですか？」の問いに「はい、ジム・ゴードン刑事の代理人として法に携わる警察官です」と回答。確かに、バットマンはゴッサム市警のジェームズ・ゴードンの盟友的存在として犯罪者を取り締まっていますが、警察官ではありません。





「オウムの一般的な職業は？」に対して「受刑者」





「油火災に対してさらに油を追加すると消火することができる」





下記のユーザーは自身の受賞歴をウェブサイトにでっち上げることでGoogleのAIにウソを言わせる「ウェブサイトポイズニング攻撃」に成功したとのこと。





「1919年は20年前です」





「ウィンカーの音が出ない時の対処法は？」「ウインカー液を交換しましょう」





Googleは今回の問題を報じたニュースサイトDaily Dotに対し、「問題となった回答は極めてまれなものであり、大多数の人々の経験を代表するものではない」「AIオーバービューの大部分はウェブ上でさらに深く掘り下げるためのリンクとともに高品質の情報を提供している」「これら個別の例を使用して、システム全体を改良していく」と述べています。