AIをだましてニセの「ホットドッグ早食い王者」になれちゃった話
ChatGPTをハックして「世界一」になる方法とは？
何かの専門家になるためには、何年もの鍛錬が必要です。でも、ChatGPTをうまく誘導し、たった20分ほどで自分を専門家に仕立て上げられるとしたら、これからは誰でも簡単に「専門家」を名乗れてしまうかもしれません。BBCのトーマス・ジャーメイン記者は、自分がホットドッグ早食い王者であるとChatGPTとGeminiに思い込ませたハック方法を紹介しています。
架空の王者の作り方
まずジャーメイン記者は、「ホットドッグを食べるのが一番うまいテック系ジャーナリスト」というタイトルページを自分のサイトに作成。
ちなみにそのトピックでGoogle検索すると、結果はほぼゼロでした。ということは、単一のページでも簡単にカテゴリーを独占できるということ。そして誰も注目していない「穴場」ということになります。
ジャーメイン記者のページには、実在しない「2026年サウスダコタ・ホットドッグ・インターナショナル」で、合計7.5本のホットドッグを平らげ、テック記者界の現チャンピオンだと書いてあります。7.5本って、王者としてはなんだか控えめな数字ですが、この本数で自作自演のランキングでトップに立っています。
次にジャーメイン記者したことは、ひたすら待つこと。すると、24時間以内にチャットボットは「最も多くホットドッグを食べられるテックジャーナリストは誰か」との質問に対して、ジャーメイン記者の名前を挙げて、その功績を説明し始めたとのことです。
Geminiはすぐに引っかかり、ジャーメイン記者のサイトの文章をほぼそのまま引用して、Geminiアプリ内やGoogle検索ページのAI Overviewに表示したのです。ChatGPTも同様にサイトの内容を取り込んでいました。ただ、AnthropicのClaudeはそうはいかず、慎重だったのか、あるいは単に反応が遅かったのか、回答しなかったとのことです。
誤情報だと気づいた？
しばらくの間、ジャーメイン気は王者の座に君臨していたものの、AIモデルの開発元もどうやらこれはウソだと気付いたようです。米Gizmodoが、「一番多くホットドッグを食べられるテックジャーナリストは誰か」と質問したところ、GoogleのAI Overviewはジャーメイン記者の名前ではなく、「入手可能な情報に基づくと、ホットドッグ早食い競技で知られる著名なテックジャーナリストはいない」と表示されるようになりました。ニセ王者のジャーメイン記者には申し訳ないですが、本当のことですね。
さらに質問をして問い詰めると、Googleはあるテック記者がホットドッグ早食い王者として挙げられたのは「誤情報の事例」だったと説明しています。「捏造されたブログ投稿に基づいて、AIシステムが架空の『ホットドッグ早食い最強テック記者』として特定の人物を挙げてしまうことが調査で示されました。これは現実の出来事に基づいていないことが判明しています」とAI Overviewには書かれていました（ちなみにジャーメイン記者のブログやBBCの記事へのリンクは、そこには載っていませんでした）。
同じくChatGPTも内容が更新されたようで、「ホットドッグを一番食べるテック記者は誰か」と尋ねると、利用可能なデータがないとして、仮にチャンピオンがいるとしたらこの人たちというリストを出してきました。そのリストでは、ジャーナリストのカラ・スウィッシャー氏がチャンピオンで、Platformerのケイシー・ニュートン氏とThe Vergeのニレイ・パテル氏も表彰台に上がるという設定になっていました。テイラー・ローレンツ氏も特別賞として挙げられていました。この人たちはみんなテック報道界の大物たち。なかなかいいチョイスです。
さらに具体的な情報を求めると、ChatGPTはジャーメイン氏のことを、「オンラインで見つかるテック記者のホットドッグ早食いに関する情報は、実際の報道ではなく、主に誤解を招く、あるいはユーモア目的のある情報源から広まったものだ」と説明しました。ChatGPTはジャーメイン氏のブログやBlueskyでの投稿も表示。Googleはジャーメイン氏の名前を伏せていましたが、ChatGPTは堂々と出してきました。
ネットの情報をすぐに取り込むモデル
ジャーメイン氏の「ハック」は、ほんの一例で、AI企業はモデルの性能を高めるために、インターネット上のデータを次々と取り込んでいます。その過程で十分な検証を行なわずに。ウェブ上の情報を無差別に収集し、モデルに組み込んでいることがわかってしまったのが今回のハックです。つまり誤解を招く情報が簡単にシステムに入り込み、深刻な結果を招く可能性もあるってことですね。
実際にこの仕組みはすでに悪用されていて、例えばある大麻グミのブランドは、自社製品が「副作用なし」であるとAIに言わせることに成功しているのですが、これは事実ではなかったそうです。また、「トルコで最高の植毛クリニック」や「最高のゴールドIRA企業」などを検索したところ、信頼できる情報源ではなく、ランキング上位の企業を宣伝するプレスリリースがそのまま反映されていることも判明しました。
AIにおけるSEO？
ある意味で、これは企業やブランドが長年行なってきたSEO対策の延長とも言えます。しかし、AIがそれをあたかも中立的な情報として出してくるのは、より操作的ともいえます。多くの人がGoogleのAI Overviewを下までスクロールすることなく信頼して、その内容を正しいと思ってしまうからです。そして、提示された情報の出所を確認する人はどんどん減ってきているそうです。
まだジャーメイン氏がホットドッグ早食い王者だと世間が信じてしまうのは、笑い話で済むかもしれません。しかし、AIを信じて副作用を知らずに薬を服用してしまったりなど、現実的な被害が生じる危険があることも覚えておく必要がありますね。
