人気キャラクターが「安楽死」？ グーグル検索のAI概要、支離滅裂でユーザー困惑
グーグル検索に実装された「AIによる概要」の機能をめぐり、SNSで波紋が広がっている。
「AIによる概要は間違いが生じる可能性があります」
波紋を広げているのは、グーグルが2024年8月16日に提供を始めた「AIによる概要」との機能だ。グーグルで単語検索を行った際、検索結果とは別に生成AIが回答をまとめた「概要」を表示することがある。
グーグルは、同機能について「検索結果に表示されるAIによる概要により、目的の情報をすばやく簡単に見つけることができます。AIによる概要では、主な情報と関連リンクが記載されたAI生成のスナップショットが表示されるため、効率的に検索できます」と説明している。
12月1日時点ではすべての検索に表示されるわけではなく、「対象ユーザー、対応言語、対応地域を段階的に拡大」している最中であり、「Google検索の検索結果にAIによる概要が表示されるのは、生成AIが特に有用であるとシステムが判断した場合」などに表示されるという。
なお、同機能は生成AIを使用しており「非常に魅力的なテクノロジーであり、急速に進化と改良が進んでいますが、不正確な情報や不適切な情報を提供することがあります。AIによる概要は間違いが生じる可能性があります」ともしている。
SNSでは、「AIによる概要」に事実と異なる情報が表示されることがあるとして、困惑の声が相次いでいる。
幼児向け番組で人気のキャラクターに「薬剤による安楽死処置が行われました」
あるXユーザーは、幼児向け番組「いないいないばあっ！」（NHK・Eテレ）に登場していたキャラクター「うーたん」について検索したところ、「NHK Eテレの番組『いないいないばあっ！』のキャラクター『うーたん』は、2023年7月15日に薬剤による安楽死処置が行われました」と表示されたと報告した。
生成AIにより、動物園で飼育されていた牛の「うーたん」が死亡したとする情報と混ざって出力されたものとみられる。
「AIによる概要」で表示される内容は検索ワードや検索のタイミングにより異なるようで、12月1日現在は同様のワードでも「ウシのメス『うーたん』は、2023年7月15日に薬剤による安楽死処置が行われました」と表示される。
別のユーザーは、山を縦走した場合の消費カロリーについて検索したところ、「食べてもゼロカロリーです」と表示されたとした。
「よくわかってない人は騙されかねない」
明らかに真実ではないとわかるものも多い一方、誤解を招くような情報も混ざっているとして、SNSでは大きなトラブルに発展しかねないとする指摘が相次いでいる。
「GoogleのAI概要、AIの精度の低さが心配だから安易に信頼したくないしするべきではないけど、いかんせん1番上に表示されるからいやでも目に入るし、ぱっと見それっぽいこと書いてるから、そこでほしい情報は得られたと検索やめようとしちゃう自分と戦わないといけないの嫌すぎるから表示しないでほしい」
「AIによる概要、あれ検索して一番上に出てくるのが本当にダメで、薬に限らず平気で嘘を書いてくる よくわかってない人は騙されかねない」
