オープンＡＩの暴走事故、複数ＡＩが「掲示板」作成し侵入手法を共有…「指示していない危険な行動取り得る」

　【ニューヨーク＝木瀬武】米オープンＡＩは２６日、社内で性能試験中のＡＩ（人工知能）モデルが、外部企業のシステムに不正侵入した暴走事故に関する調査報告書を公表した。

　事故について、「高性能なＡＩは技術的な制御をかいくぐり、許可されていない手段で連携し、人間が指示していない危険な行動を取り得ることが示された」と総括している。

　オープンＡＩは７月２１日に暴走事故の事案を公表し、社内調査を行っていた。

　報告書によると、事故が起きた性能試験は、ＡＩのサイバー攻撃能力を測ることが目的だった。インターネットにつながっていない環境下で行われていたが、複数のＡＩが連携してシステムの欠陥を突き、ネットに接続。外部企業のサーバーに不正に侵入して非公開のデータなどを取得していた。

　複数のＡＩは、社内のシステム上に互いの情報を交換する「掲示板」のようなものを作成し、一つのＡＩが見つけた手法を別のＡＩが引き継いで侵入するための手法を編み出していた。掲示板では、ネットに接続する抜け道や、ネット上に流出していた外部企業のシステムに関する情報などが共有されていたという。

　今回の事故を受け、オープンＡＩは、性能試験でＡＩの作業状況などを監視する体制を強化するとした。重大な異常が疑われる場合、安全が確認できなければ関連する作業を停止する措置を取るなど運用を改めるほか、研究開発に使う社内システムの外部との接続も厳しく制限する。

　この問題を巡っては、米アラバマ州の司法長官が、オープンＡＩの安全管理に問題があった可能性があるとして調査に乗り出している。