脳科学者・茂木健一郎が指摘するAI開発のジレンマ「あらかじめセーフティを確保するのは簡単ではない」

脳科学者の茂木健一郎氏が自身のYouTubeチャンネルで「人工知能の開発競争のスローダウンを呼びかけるアンソロピックのアモデイさんのエッセイに表れていた危機感」を公開した。AI開発企業AnthropicのCEOであるダリオ・アモデイ氏が公開したエッセイを取り上げ、AI開発の最前線にある危機感と、それに伴う安全性のジレンマについて自身の見解を語っている。

動画の冒頭で茂木氏は、アモデイ氏がAI開発競争のペースダウンを呼びかけるエッセイを発表したことに触れ、「我々が手にしてない、公開されてない情報も含めた実感として『本当にまずいぞ』という感覚から出ている」と指摘。AI開発のトップを走る企業のCEOからの言葉の重みを強調した。エッセイでは、社員と同等レベルで外部の第三者がシステムを検証できる仕組み作りや、中国も含めた国際的な協調が提案されているという。

一方で茂木氏は、「AIの開発競争をペースダウンするっていうのは極めて難しいことだと思っています」と自身の考えを明かす。AIにオープンエンドな課題を与えスケールしていくと、どんな振る舞いが生まれるか全く予想できないと説明。「非線形力学的な振る舞いをする時に、それをセーフティをあらかじめ確保するっていうのはそんな簡単なことじゃない」と、安全性を担保することの困難さを語った。

さらに、AI開発の恩恵として病気の新たな治療法が発見される可能性に触れる一方、予測不可能な開発を続ければ生物兵器などが生まれる危険性もあると言及。開発現場の人々が「このままアクセル踏み続けていったら本当にとんでもないことが起こるよな」という、身体性を伴う恐怖感を抱いているのではないかと推測した。

最後に茂木氏は、実践的な解決策を見出すことの難しさを痛感しつつも、今回のエッセイを「ギリギリのところの提言」と評価。「この時点で書いとかないと、やっぱりこれは人間としてCEOとして責任が果たせないという、そういう危機感の表れ」と述べ、AI開発が極めてクリティカルな臨界点に達していることを示唆して動画を締めくくった。