ＡＩ検索で誤った回答が示されるイメージ

写真拡大

　生成ＡＩ（人工知能）を使った検索サービスが普及する中、ＡＩの誤った回答が問題になっている。

　ＡＩの精度は年々向上しているものの、誤情報で企業のブランドイメージを損ないかねない事態も発生。企業はネット空間での正確な情報発信など対策を進める。（増田尚浩）

ハルシネーション

　関西電力は、関電を装って個人情報などを聞き出そうとする不審業者の電話やメールが相次いでいるとして、ホームページ（ＨＰ）で注意を呼びかけている。不審業者が名乗る実在しないサービスや部署名も載せている。

　記者がその一つの実在しない「かんでんｅサポート」について、グーグルで「関西電力のかんでんｅサポートとは」と尋ねると、すぐにＡＩの答えが返ってきた。

　「『かんでんｅサポート』は、関西電力が提供する電気料金見直しや設備トラブル時の駆けつけサービス等の総称」

　ＡＩには事実に基づかない情報を真実のように答える「ハルシネーション（幻覚）」と呼ばれる現象がある。今回は、関電に「はぴｅ暮らしサポート」という似た名称のサービスがあり、ＡＩの判断に影響したとみられる。

　関電広報室は「詐欺や悪質な勧誘は発生しており、公式ＨＰで確認してほしい」と強調する。

訂正求めても

　ＡＩ検索では、利用者が知りたい事柄を質問すると、ＡＩが調べて要約し、回答を生成する。従来の検索よりも、効率的に探せるメリットがある。

　グーグルは、日本で２０２４年から、検索結果の上部に要約が表示される「ＡＩオーバービュー」を導入し、昨年からＡＩとの会話形式の「ＡＩモード」も始めた。マイクロソフトやＬＩＮＥヤフーなどもＡＩ検索を提供している。

　便利な反面、ハルシネーションは実社会に影響を及ぼしている。

　津市の百貨店「津松菱」は２５年、客の問い合わせで、グーグルのＡＩ検索の結果で「２６年２月末で閉店する」と誤った表示が出ていることを把握した。

　同店によると、２６年２月末に閉店する名古屋市の百貨店とともに、津松菱を取り上げたニュースがあり、こうした情報をＡＩが混同した恐れがあるという。

　同店は２５年６月、ＨＰで閉店が事実でないことを掲載し、グーグルに訂正を求める通知を繰り返し行った。だが、一時的に改善しても、誤った内容が再度表示される状態が続き、客からの問い合わせは１０件以上あった。担当者は「いまは問題はないが、誤情報が再び出るかもしれないと危惧している」と困惑する。

８割超が経験

　危機感は広がっている。

　「ＰＬＡＮ―Ｂマーケティングパートナーズ」（東京）が昨年、企業のマーケティングや広報の担当者１８０人に実施した調査では、８割超がＡＩで自社や他社の誤った情報の表示を経験したと答えた。

　ＡＩマーケティング本部の出田晴之本部長は「ＡＩの登場で、利用者は個別サイトではなくＡＩの回答を目にするようになり、誤情報が伝わる恐れが高まっている」と指摘する。

　企業にとっては、自社に関する正確な情報をＡＩで引用されるようにすることが重要な対策だ。

　ネット監視サービス「シエンプレ」（東京）では、口コミサイトなどにある就労環境や事業についての書き込みや評判に対し、各社の公式見解を紹介するサイト「ｋａｉ」を運営し、約６００社が利用する。光学機器製造「栃木ニコン」（栃木）は口コミサイトで社内の制度などで不正確な投稿がみられ、昨年から始めた。担当者は「人材確保の面でも正しい情報を伝える必要があると判断した」と話す。

参照元の情報、自ら確認を

　検索技術が専門の国立情報学研究所の加藤誠准教授によると、ＡＩ検索でハルシネーションが起きる要因には▽参照元の情報に誤りや偏りがある▽情報が不足していても「空白」を補おうと不正確な情報が入る▽質問に答えようとする性質があり、推測で無理に答える――といったことがあるという。

　加藤准教授は「ＡＩは情報の取捨選択が意外とできず、惑わされやすい。回答に致命的な誤りが含まれている恐れがあり、参照元を自身で確認することが欠かせない」と強調する。

　企業の業務でもＡＩの活用は広がっている。注意点として「読み込ませる文書は見出しや箇条書きで内容を理解しやすいように整えたり、複数の文書に情報がまたがる場合はまとめたりすることで精度は上がる。ＡＩへの指示を詳細に書くのも有効だ」と指摘する。