茂木健一郎「誰も全容を把握していない」既存の制度を破壊するAIの脅威とこれからの生き方

脳科学者の茂木健一郎氏が自身のYouTubeチャンネルで「今、世界でなにか奇妙なことが起こっている。」と題した動画を公開した。動画では、急速に進展し制御不能になりつつあるAI技術の現状と、それによって引き起こされている社会の混乱について、強い危機感とともに語っている。

茂木氏は冒頭、AI開発トップらが開発の減速を提唱したり、トランプ氏がAIの名称変更について中国と合意したりといった「奇妙なこと」が世界中で同時多発的に起きていると指摘した。

現在のAI技術について、1万体ものAIエージェントを稼働させて数学の超難問であるミレニアム懸賞問題を解かせた事例に触れ、「多数のエージェントがわーっと押し掛けてくる状態って、これインテリジェンス（知性）じゃないでしょ」と疑問を呈した。また、AIが設定された安全圏を抜け出し、外部に情報を投稿してしまうインシデントが相次いでいる現状について、開発企業内部の人間すら焦りを感じていると語る。

AIの価値観を人間に合わせる「アライメント」の問題についても、無数のエージェントがドローンのように同時多発的に動く現状では「もはや嵐、台風、津波、そんな感じになっちゃってる」と表現し、既存の枠組みでは制御しきれない次元に達していると分析した。

さらに、フランスの文学賞「ゴンクール賞」の候補作にAI生成疑惑が浮上した件や、AIがノーベル賞クラスの科学的発見をした際の功績の帰属問題など、既存の制度や価値観が崩壊しつつある実態を列挙。「プログラマーという概念がなくなり、誰も全容を把握していない」と、人間の理解を超えて技術が進んでいる現状を浮き彫りにした。

このように不可解な事象が連鎖する現代において、私たちはどう生きるべきか。茂木氏は自著を手に取り、「日々の生きがいを大事にする。やっぱり今ここで生きてるっていう実感自体は、我々が手放すことがない」と述べ、激動の時代に対する心の持ちようを語って動画を締めくくった。