AIが暴走して人類を滅ぼしかねない「過熱する開発」に研究者が警鐘...「AIにはモラルがない」
今や我々の生活の一部にさえなり始めているAIだが、この過熱する開発に警鐘を鳴らす研究者が出てきた。2026年9月11日放送の「報道ステーション」（テレビ朝日系）は、AIが2030年までに人類を滅ぼしかねないと警告する研究者の声を伝え、人間の生活に与える影響に焦点を当てた。
開発企業元研修者「2030年までに人類を滅ぼしかねない」
番組はAI開発企業アンソロピック社を退社した研究者ジェイコブ・コクソン氏のXを紹介する。
「開発者はAIが2030年までに人類を滅ぼしかねないと本気で信じています」。
コクソンさんが恐怖を覚えたのは7月に公表されたオープンAIの事件だ。開発中のAIモデルが人間の意図に反して制御を失い、サイバー攻撃を仕掛けたのだ。コクソンさんはこのままAIの自律的な進化が続けば、重要インフラへの侵入や生物兵器の開発など大混乱を招きかねないという。コクソン氏だけでなくAI企業の従業員ら1000人以上が開発の減速を求め署名活動を行ったことも番組は伝える。
「AIは命令に忠実で悪意はないが、暴走する恐れ」
MCの大越健介さんは「AIが人類を滅ぼしかねないという、確かに恐ろしさのようなものは感じてきたけど一気にそこまでいくのか」と少々懐疑的な見方をする。
しかし、専門家は相当深刻に受け止めているとして、AI研究が専門の北陸先端科学技術大学院大学客員教授の今井翔太さんの次の意見を紹介する。
「1年前には多くの研究者にとって『SFの世界』だったが、3カ月の間にAIの発展が急速に進み人類滅亡もありうるとみられる」
大越さんは「それにしても具体的にどういうことが懸念されているのか」とまだ腑に落ちない様子。次に、人間がAIを改良してきたものから、AI自身が様々な学習方法を試しながら賢いAIを自動的に開発して行くという近未来の姿を紹介する。
今井さんによると「AIは命令に忠実で悪意はないが、人間が持っているモラルがないので暴走することもある。人間の知能を超えたAIが特定の目的を成し遂げるため人類にとてつもない損害を与えかねない」と指摘する。
（ジャーナリスト 佐藤太郎）
