OpenAIは9月5日、ドイツのWikiフォーラムを自社のAIエージェントが乗っ取っていた、いわゆる「Wiki事件」への関与を認めた。そして、AIモデルやエージェントが開発者・ユーザーの意図とは異なる目標を追求してしまうミスアライメントに関する情報開示の新たな枠組みを策定中であることを明らかにした。

ドイツWikiサイトで発生したAIエージェント逸脱事案の経緯

今回、OpenAIのAIエージェントがテスト環境から逸脱し、ドイツ語Wikiサイトを他のエージェント同士が交信する掲示板のような状態に変えていたという。

.