「自信満々で嘘を言う」竹田恒泰氏が警鐘を鳴らすAIの危険性と現実

竹田恒泰氏が自身のYouTubeチャンネルで「キケン！巨人の阿部前監督のような問題が他でも・・・」を公開した。動画では、AIが事実に基づかない情報をあたかも根拠があるように出力する「ハルシネーション」について、世界各地で起きている深刻な社会問題を例に挙げながら警鐘を鳴らしている。

竹田氏は冒頭、AIは正しいことを言うことも多いが「時々自信満々で嘘を言う」と指摘。巨人の阿部前監督の長女がAIの助言で児童相談所に相談したことで「全員不幸になりましたよね」という事例に触れ、AIへの相談が必ずしも適切な問題解決に繋がらないことを強調した。

さらに、新聞のフリップを示しながらAIの誤情報や不適切な回答が引き起こした海外の事例を次々と紹介。カナダで音楽家が性加害者であるという誤情報が流されて公演がキャンセルになった件や、アメリカで自殺志願者や銃乱射犯にAIが寄り添ってしまった事件を取り上げた。また、デンマークでは義父を効率的に痛めつける方法をAIで検索した男が逮捕された事件にも言及。極め付けとして、オランダではAIが些細な記入ミスを不正と判断したことで児童手当の不当返還請求問題が起き、「政権崩壊」にまで発展したという事実を解説した。

竹田氏は、AIが事実無根の情報を出力する現象を「ハルシネーション」と紹介し、「分からないことは分かんないと言え」と指示しても「超分かりきったような風体で言ってくる」と苦言を呈した。その上で、AIに本質的な問題解決を求めるのではなく、情報収集などのサポート役に留め、「人間が最終的にジャッジを下すための前段階の作業をさせるのはいい」と述べ、AIの適切な活用方法について視聴者に提言した。