脳科学者・茂木健一郎氏「AIが人間の知性を超えたとき自然言語は万能なのか？大きな問題が山積」

「人間を超えた人工知能の成長はいかに可能か？」と題した動画で、脳科学者の茂木健一郎氏がAIの進化、特にシンギュラリティ（技術的特異点）について自身の見解を述べた。茂木氏はまず、シンギュラリティにまつわる基本的な議論に触れ、「結局、指数関数的に能力が上がっていくということを背景にしているわけです」と説明。レイ・カーツワイルやIJグッドの提唱する「知性の爆発」についても言及し、「人間がコントロールできない形で、どんどん向上していくということを前提にしている」と述べた。

一方で茂木氏は、AI開発の主流である「レインフォースメント・ラーニング・フロム・ヒューマンフィードバック（RLHF）」という、人間が見本となってAIを訓練する手法について課題を指摘。「人間を超えた領域での振る舞いが困るんですよね」と語り、人間の能力を遥かに超えるAIが果たしてどのような成長を遂げるのか疑問を呈した。特に将棋や囲碁といったルールが明確な分野ではAIが既に人間の最強を大きく上回っている一方、「自然言語の場合どうなるのか」と自然言語処理における限界にも言及。人間の言語をAIが完全に超越した時、「自然言語の万能性」に新たな問いが生まれるという。

さらに茂木氏は、「AI自身にしかわからないようなものが爆誕するのかどうか」という点に着目。「人間とは離れて、成長の軌道が確保されなくちゃいけない」と述べ、人間のフィードバックを離れたAIの飛躍的な進化について根本的な議論が必要だとした。また、「ゲーデルの不完全性定理」やロジャー・ペンローズの哲学的問題についても触れ、AIが数理的に自らの知識をどこまで検証できるのか、解決されていない重要な課題が多いことを指摘した。

動画の締めくくりで茂木氏は、「いずれにせよ人間を離れてAIが勝手に成長していくときに、どうやって階段を上っていくのかについては非常にオープンなクエスチョンがいっぱいあって、ここら辺も我々シンギュラリティって言ってるんですけど、考えなくちゃいけない段階に来てるのかなというふうに私は思います」と述べ、AI開発の未来に向けて広く深い思索を呼びかけた。