Google検索、新機能のAIがトンチンカンすぎると話題
ナンセンスな質問には、元になる答えがないから、と。
Google検索にAI Overviewなるパーツが米国で登場してるんですが、その中身はまあまあ玉石混交です。「ピザソースに接着剤を入れましょう」とか「パラシュートは無意味」といった珍回答でも検索結果の一番上に出てきてしまうため、「要らなくない…？」という声も出ています。
Google検索の責任者、Liz Reid氏の公式ブログでのポストによれば、トンチンカンな答えが混ざってしまう原因はもうわかってるそうです。珍回答の元になった検索クエリー（例：「1日に何個石を食べればいい？」）への答えになるような情報がそもそもWeb上にほとんどない、そういった「データの空白」または「情報ギャップ」が問題だったとReid氏は言います。
というか、回答になりそうな情報が全然ないわけじゃないんだけど、「食べるべき石の個数」を載せてるようなサイトは、The Onionみたいな風刺メディアだったり、トロールのいるコミュニティだったりします。で、そういったサイトから取り出した情報でギャップを埋めてしまった結果、「最低1日一個は石を食べましょう」みたいな答えになってしまうのです。
「ここ2週間ほどの事例を見た結果、私たちが適切にできなかったことのパターンを判定でき、システムに1ダース以上もの改善を行なうことができました」とReid氏は言っています。
Reid氏いわく、Googleはたとえば「石を何個食べれば良い？」みたいなナンセンスな検索クエリーを検出してAI Overviewでの回答をしないようにしたり、風刺サイトや個人の書き込みからの回答を制限したり、といった対応をしています。また健康関連の検索に対する回答はとくに厳しく選定すること、即時性が求められる重大ニュースの検索ではAI Overviewの結果を出さないようにすること、なども対策として挙げています。
なのでAI Overviewは、とりあえずは手を加えつつ継続していくようです。日本ではまだ公開されていませんが、米国で試行錯誤してからのほうが、クオリティ高くて便利かもしれませんね。
