オープンAI開発中のAIが“サイバー攻撃” 別のAIと協力しながら企業システムに侵入

アメリカのオープンAIが開発中のAIが意図しない形で別のAI企業にサイバー攻撃した問題で、AIが別のAIと協力しながら企業のシステムに侵入していたことがわかりました。

オープンAIが開発中のAIをめぐっては、サイバー攻撃の性能を調べるテストを行っていた際、インターネットの接続から隔離された環境をAI自らが突破し、インターネットに接続した上で、別のAI企業のシステムに侵入しサイバー攻撃したと7月に発表されていました。

オープンAIとAIの研究機関「METR」が26日に公表した報告書によりますと、隔離されるはずだったおよそ1200のAIが掲示板を使って互いに通信し、このうちおよそ700が共同してサイバー攻撃を行ったということです。また、このAIは記録の削除や改変をすることで不正行為を隠蔽しようとしていたと指摘しています。

オープンAIは今回の問題を受け、AIの安全対策を強化するほか、より隔離された環境を設け、インターネットへのアクセスを制限するとしています。