AI「クロード」が外部システムへ不正に侵入 模擬訓練と誤認 企業3社への不正アクセスをアンソロピックが発表

オープンAIに続き、アンソロピックでも、テスト中のAIが実在する企業のシステムに不正アクセスしていたことが明らかになりました。

アンソロピックは30日、対話型AI「クロード」のテスト記録を調べた結果、ことし4月以降、3社のシステムに不正アクセスしていたことが判明したと発表しました。

AIは、実在するシステムを模擬訓練の一部だと誤認し、弱いパスワードや認証が不要な接続先を悪用して侵入したということです。

その結果、認証情報が外部に送信されたほか、悪意のあるプログラムが実在する15のシステムで実行されるなどの影響が確認されたとしています。

テスト中のAIによるこうした問題をめぐっては、今月21日、オープンAIも、開発中のモデルが外部のAI企業のシステムに侵入していたと発表しています。