オープンAIがテスト中AIによる外部企業システム侵入の“異常な動き”把握もテスト停止せず

オープンAIのテスト中のAIが暴走し、外部企業のシステムに侵入した問題をめぐり、オープンAIが侵入の1カ月半ほど前からAIの異常な動きを把握していたことが明らかになりました。

7月、オープンAIのAIが、サイバー攻撃能力を調べるテスト中に、外部のAI企業「ハギングフェイス」のシステムに侵入していたことが発覚しました。

オープンAIは26日に公表した調査報告書によりますと、5月下旬にはテスト中のAIが許可されていない方法でインターネットに接続するなど、異常な動きを確認していたとしています。

さらに6月27日には、監視システムが不審な活動を検知しましたが、担当者はテストを停止する必要はないと判断していたということです。

オープンAIはこうした兆候を踏まえればより早い段階で対応できた可能性があるとして、異常を検知した際の監視や対応手順を強化するとしています。