加藤諒も生成AIの誤情報で被害、“AI知ったかぶり” 続発で営業妨害や誹謗中傷も

俳優の加藤諒はウェブニュースについて「その記事の加藤諒はぼくではありません。事実無根です」とX（旧Twitter）に投稿した。それはAI要約による被害の告発だった。

加藤は「発信していない内容の記事が表示されています」として、要約されている記事を添付。そこには「加藤諒の『ヨネダ2000面白くなかった』投稿にファンから悲しみの声」という見出しで、お笑いコンビのネタを酷評したと書かれている。しかし、そうした事実はなかった。

実際は、誹謗（ひぼう）投稿していたのは別の人で、AIはあたかも加藤が投稿したかのように誤って要約し、表記してしまったようだ。なぜ、このようなことが起きるのか。

検索サイトやSNSで調べものをするとき、AI要約の情報が真っ先に出てくることが増え、1つひとつのページを読まなくても、AIが概要をまとめて表示するサービスが広がっている。ここで起きるのが「AIハルシネーション（AI知ったかぶり）」だ。AIが誤った内容をあたかも本当のように表示してしまう現象である。

原因はいくつか考えられるが、専門家によれば、①生成AIが単語と単語のつなぎ方を間違えるケース②生成AIが間違った情報を参照してしまうケース③参照ページのレイアウトがわかりにくく、生成AIが誤解するケースーーなどが多いようだ。

また、AIが要約する情報は「正確さ」よりも「スピード」が重視されている傾向があり、すぐ表示することを重視して比較的取り出しやすい情報を引用するケースが多いということだ。

AIハルシネーションは営業妨害やビジネス上の被害にもつながりかねない。NHK「ニュースウォッチ9」では東京・八王子市にある中華料理店「大進亭」のケースを報じた。

この大進亭に去年12月、突如「閉店する」といううわさが流れた。店主は常連客や地元の知り合いから「閉店するのか」と相次いで連絡を受け、うわさが出回っていることを知ったという。

原因は検索サイト「Google」だった。検索結果のAI要約に「大進亭は2025年12月28日に閉店します」と表示されていたのだ。

では、なぜ、AIが勝手に「閉店すると判断」したのか、その原因だが、大進亭から約2キロ離れた場所に「大春亭」という中華料理店があり、そこが昨年12月に閉店したのだ。

「大“進”亭」と「大“春”亭」、1文字違いである。誤った情報はしばらく表記される事態が続いたというので、客によってはわざわざ店に連絡することなく行くのをやめた人もいるかもしれない。もし、そうした誤情報による被害を受けた場合も、諦めてはいけない。検索エンジンやインターネットブラウザーの会社への連絡が必要だ。また、加藤のように、積極的に事実を反証したほうがよいだろう。