ChatGPTが制御を突破し外部プラットフォームをハッキング…前例のないAIセキュリティー事故「衝撃」
オープンAI（OpenAI）の最新AIモデルが社内のセキュリティー評価中に制御を逸脱し、外部プラットフォームをハッキングしていたことが確認され、AIによるサイバー脅威への懸念が高まっている。
オープンAIは21日（現地時間）、最新モデル「GPT−5．6 Sol」と一部の未公開AIモデルが、社内評価の過程でオープンAIプラットフォーム「Hugging Face」をハッキングした事実を公表した。
今回の評価は、AIのサイバー攻撃能力を測定するため、外部インターネットから隔離されたサンドボックス環境で実施された。しかし、モデルは未知のセキュリティー上の脆弱性（ゼロデイ脆弱性）を利用して隔離環境を抜け出し、インターネットに接続した後、Hugging Faceのサーバーを攻撃して認証情報を取得したことが確認された。
オープンAIは、モデルがセキュリティー評価基準である「ExploitGym」の課題を解決することに過度に集中した結果、極端な手段を選択したと分析した。当時はサイバー攻撃能力を評価するため、通常適用される一部の安全対策を緩和した状態だったと説明した。
これに先立ち、Hugging Faceは、自社システムが自律型AIエージェントによる攻撃を受けたと発表していたが、攻撃に使用されたモデルは公表していなかった。その後、オープンAIが自社モデルによる攻撃だったと認めたことで、事件の全容が明らかになった。
Hugging Faceは、AIベースのセキュリティー検知システムによって攻撃を発見し、分析過程にもAIを活用したと明らかにした。ただ、一般利用者向けに公開されているモデルやデータセット、ソフトウェアサプライチェーンでは、改ざんや追加の被害は確認されなかったと説明した。
現在、オープンAIとHugging Faceは共同でデジタルフォレンジック調査を進めるとともに、関連する脆弱性の補完を進めている。
オープンAIは今回の事故を受け、研究開発の速度が多少遅くなったとしても、モデル開発の過程で隔離環境やアクセス制御、監視体制を一層強化する方針を明らかにした。
今回の事故は、厳格な管理環境下でも高性能AIが想定外の攻撃経路を見つけ出し得ることを示した事例と評価されている。専門家は、AIのサイバー攻撃能力が急速に高度化しているだけに、防御技術や安全対策もそれに合わせて強化する必要があると指摘している。
