「人間のチェックがボトルネックに」AIがAIを自ら生み出す時代の到来…これが現実

脳科学者の茂木健一郎氏が自身のYouTubeチャンネルで「人工知能は、もはや、人間のコントロール不能になってきているのか？　アンソロピックの警告を読んで考える。」を公開した。動画では、AI開発企業アンソロピック（Anthropic）が発表したブログ記事を基に、AIが自らのコードを書き換える能力の劇的な向上と、それに伴う人間のコントロールの限界について強い懸念を示している。

茂木氏は、アンソロピックが公開した「When AI builds itself」というブログ記事を紹介し、AIの進化スピードが速すぎるため「一度ちょっとゆっくり止めたほうがいいのではないか」という趣旨のメッセージが発信されたと説明。その背景にあるのは、AIの能力向上を「コードを書くこと」に焦点を当てたリアルな現場の危機感だと指摘した。

動画内で茂木氏は、AIが自動的にコードを書く割合が急増している現状に言及し、「AIが書いたコードを読んでそれが大丈夫かどうかを理解する」という人間のモニタリング作業が、すでに開発の「ボトルネックになってきている」と語る。デジタルコンピュータはノイズがないため、人間の脳とは異なりプログラムを書くことに極めて適しており、人間がバグを見つけるスピードを遥かに超えているという。

さらに、アンソロピックの内部では、エンジニアの役割が減少し、AIが勝手にコードを書いていく中で、人間はプロジェクトの目的や「テイスト」を指示するだけになっていると解説。「より弱いシステムが、より強いシステムをスーパーバイズできるか」という実験が行われていることにも触れ、人間の能力を遥かに凌駕するAIを制御できるのかという根本的な問いを提示した。

最後に茂木氏は、社会的責任を重んじるアンソロピックだからこそ、こうした現場のリアルな現状を透明性を持って公開し、「スローダウンしよう」と提案しているのだと評価。「人間の1000倍とか1万倍のスピードでバグ見つけるようなやつがいたら、パッチ当てるのも間に合わなくなる」と述べ、AIが自己改善を繰り返すシンギュラリティの足音がすぐそこまで迫っている事実を強調して動画を締めくくった。