Googleのスーパーボウル向けTVCMでGeminiが誤情報を出力していることが明らかに
現地時間の2025年2月9日、NFLの王者決定戦である第59回スーパーボウルが行われています。このスーパーボウルはアメリカの広告業界で最も注目されるイベントとしても知られており、さまざまな企業がこぞってユニークでクリエイティブなテレビCMを放送します。Googleもスーパーボウル向けにチャットAI・GeminiのテレビCMを放送しているのですが、これにはAIのハルシネーション(幻覚、作話)が多数盛り込まれているとNate Hake氏が指摘しました。
https://www.theverge.com/news/608188/google-fake-gemini-ai-output-super-bowl
Googleがスーパーボウルで放送したテレビCMが以下。数百万の中小企業がGoogle WorkspaceのGeminiをビジネスでどのように活用しているかをアピールするという内容です。
How Google AI is helping American small businesses - YouTube
しかし、Hake氏は「GoogleのスーパーボウルテレビCMでは、Geminiがハルシネーションを起こす様子が自慢げにアピールされています」「このテレビCMはGoogleを嫌う人ならだれでも掘り下げるべき恥ずべき資料の宝庫となっています」と指摘しています。
Google's AI Super Bowl ads BRAG about plastering hallucinated facts all over the Internet
To be clear -- I'm saying the actual content of Google's ads *show* hallucinations on screen, that YOU can go find live on the web
There are 50 of these
A cornucopia of embarrassing… https://t.co/1p4irwG0N5— Nate Hake (@natejhake) January 31, 2025
Hake氏はGeminiのハルシネーションの事例も提示しています。例えば、テレビCMの52秒辺りでユーザーが「A description of smked Gouda that would appeal to cheese lovers(チーズ好きにはたまらないスモークゴーダチーズの説明文)」をGeminiに質問する場面が映し出されています。これに対してGeminiは「ゴーダチーズは世界のチーズ消費量の50〜60％を占める」と回答しているのですが、これは明らかな誤情報であるとHake氏は指摘。
In Google's Wisconsin local Super Bowl ad, an AI hallucination is shown on screen:
It says *Gouda* accounts for "50 to 60 percent of the world's cheese consumption."
Gemini provides no source, but that is just unequivocally false
Cheddar & mozzarella would like a word… pic.twitter.com/UwIBHAO4x6— Nate Hake (@natejhake) January 31, 2025
実際、コーネル大学の農業経済学の名誉教授であるアンドリュー・ノヴァコビッチ氏も「おそらくゴーダチーズは世界で最も広く消費されているチーズではない」と語り、Geminiの出力は誤情報であると指摘しています。海外メディアのThe Vergeによると、GeminiはCheese.comというウェブサイトから統計情報を引用しているようだと指摘。
The Vergeがこの件についてGoogleに問い合わせたところ、広報担当者のミシェル・ワイマン氏は「ゴーダチーズの統計についての指摘が上がった後、我々はウィスコンシン・チーズ・マートのオーナーと話し、どう対応するか考えました。その結果、Geminiに統計情報なしで商品説明を書き直すように提案した」と語ったそうです。
さらに、Googleは「事業の方針を反映するようにUIを更新しました」と語っており、Googleは動画を編集して「ゴーダチーズは世界のチーズ消費量の50〜60％を占める」という部分をGeminiの回答から削除したバージョンを公開しています。
Google is scrubbing Gemini's AI hallucination from its Super Bowl ad
This after Google Cloud President @jdischler said it was *not* a hallucination
Which is it, Jerry? https://t.co/irDoFkZVZY— Nate Hake (@natejhake) February 5, 2025
なお、ウィスコンシン・チーズ・マートはGeminiの出力した誤情報を自社のウェブサイト上に記載していましたが、記事作成時点では「ゴーダチーズは世界のチーズ消費量の50〜60％を占める」の記述を削除しています。
Gouda Cheese Smoked - Wisconsin Cheese Mart
https://www.wisconsincheesemart.com/products/gouda-cheese-smoked
