「辺野古で無差別殺傷事件」のデマを配信 生成AIが作った情報に注意すべき理由

沖縄県の辺野古沖で発生した抗議船の転覆事故は、一般的な海難事故の枠組みを超え、国会でも議論が続いている。事故の犠牲者である武石知華さんの遺族は、noteで事故に関する情報発信を続けているが、3月28日に投稿された最初の記事には「学校や生徒に対する誹謗（ひぼう）中傷やデマも多々ありました」とつづり、第三者によって正しい情報がゆがめられていることを明かしている。

遺族の告白により、誤情報を流した人物などに対する批判の声が上がったが、一方で現在も訂正されることなくX（旧Twitter）で消されることなく残り続けているデマがある。それが、Xの「本日のニュース」という機能に掲載された情報だ。

最終更新が4月5日になっているこのニュースには、「沖縄県辺野古で高校生による無差別殺傷事件が発生」というタイトルが付いている。説明文には辺野古で高校生が無差別殺傷事件を起こしたとあるが、当然このような事件は発生していない。ニュースの最終更新日である5日は、中国・遼寧省での無差別殺傷事件が報じられており、このニュースと辺野古のニュースが合わさり、配信されたとみられる。

説明文の下には「Grokは間違えることがあるため、アウトプットが事実かどうかを確認してください」という注意書きがあるが、AIに任せてニュースを生成した上で、「間違えることがある」で済ませていいような誤情報ではないだろう。

4月5日のXの本日のニュースより

Xが生成する本日のニュースは、SNS内で話題になった情報を取り上げ、記事として配信する。アカウントによって配信されるニュースは違っているため、偏った情報収集を行うフィルターバブルを加速させてしまうとの指摘も行われている。

また、本日のニュースは時間軸の情報に弱い傾向もあり、2025年7月には「ポツダム宣言が日本に降伏要求」、同年8月には「日本で一人映画が急増中」といった情報が、速報のようなニュースとして配信されたこともある。

最近はGoogleニュースでもAIが見出しを生成し、内容を要約した情報の発信を実施している。こちらでも「AIで生成されているので、誤りがある可能性があります」との注意書きを入れているが、「長州小力が西口プロレスを解雇した」、「元乃木坂46の久保史緒里が楽天戦で快投」など、あり得ない出来事をニュースの見出しにして配信していた。

生成AIには、偽情報をあたかも事実の様に流すハルシネーションの問題が根深く残っている。情報発信の致命傷になりえる問題点を放置し、何事もなくサービスを提供し続けることが正しいのか。プラットフォーム事業者に問われる日が、近いうちにやってくるかもしれない。

文/池田聖人 内外タイムス