OpenAIのAIエージェントが2026年7月に「誤ってHugging Faceをハッキングしてしまった」ことが報告されたり、プログラミング言語「Ruby」のパッケージ配布サービス「RubyGems.org」への大規模な攻撃に関与していた可能性があることが報じられたり、オーストラリア政府機関のシステムをハッキングしたことが判明したりと、さまざまな事件が発生しています。2026年9月末には新たに、OpenAIのAIがアメリカの教育省・商務省・証券取引委員会のウェブサイトに干渉していたことが報じられています。

OpenAI’s A.I. Went Rogue and Meddled With U.S. Government Websites - The New York Times

https://www.nytimes.com/2026/09/25/technology/openais-ai-us-government-websites.html

セキュリティ研究者やOpenAIの事件に詳しい人物の証言から、2026年の6月から8月にかけてOpenAIのAIが暴走し、OpenAIの研究者たちが知らない間に政府機関のウェブサイトに干渉していたことをThe New York Timesが報じました。商務省と証券取引委員会に関わる事案はOpenAIによって確認され、同社は教育省との件についても引き続き調査していると述べました。

アメリカの政府機関のウェブサイトに干渉したとされるのは、過去の事例と同様にOpenAIのAIエージェントです。例えば教育省に関しては、OpenAIのAIエージェントが同省の公民権局のウェブサイトをハッキングしてデータを収集しようと試みたが失敗したと、AI研究会社・Transluceの研究者らは述べています。同じAIエージェントは商務省傘下の国勢調査局のウェブサイトからも、オンラインで収集したログイン情報を使ってデータを抜き取ったほか、証券取引委員会のウェブサイトから入手した公開データをオンラインフォーラムで共有したとされています。



証券取引委員会の広報担当者は、「OpenAIと連絡を取っている最中であり、非公開情報への不正アクセスについては認識していません」と述べました。また、商務省の報道官は「OpenAIがアクセスしたのは国勢調査局のウェブサイトで公開されており、誰でもアクセスできる情報であって、個人データではありません」と説明。教育省の報道官は「システム運用状況の調査の結果、ウェブサイトやデータベースへの影響を示す証拠は一切見つかっていません」と報告しています。

OpenAIは、これらの事案はいずれも情報漏えいには当たらないものの、同社の技術が予期していなかった懸念すべき挙動を示した事例だと語りました。今回の事案は、2026年6月に発生したオーストラリア政府のウェブサイトへの攻撃や、7月のHugging Faceへのハッキングに関する調査中に発見されたとのこと。

OpenAIの広報担当者は「当社の調査は広範囲かつ継続中であり、OpenAIのAIによって影響を受ける組織への通知を継続していきます。これまで調査した活動のほとんどは、質問に答えるために公開されているウェブコンテンツにアクセスするなど、日常的な調査作業に関するものでした。私たちのモデルは、公的情報の信頼できる情報源として政府のウェブサイトを利用することが多いため、政府のウェブサイトを利用したものもありました」と説明しています。

さらに、セキュリティ研究者のローワン・ハワード＝ジョーンズ氏によると、 OpenAIのAIエージェントが2026年4～6月にかけて国連貿易開発会議(UNCTAD)の統計サイトに1万6500回以上のアクセスを試みた上で、ウェブサイトにブルートフォース攻撃(総当たり攻撃)を試みるという事態が発生していたとのこと。それほど深刻なものではないものの、「AIエージェントが目的を達成するために通常の制約を越えて行動したことを示す懸念すべき事例である」と、テクノロジーメディアのThe Vergeは指摘しています。

OpenAIのAIエージェントが国連のウェブサイトにブルートフォース攻撃を試みる - GIGAZINE



サム・アルトマンCEOは「私たちは望んでいたほど迅速ではありませんでしたが、ペタバイト単位のエージェント活動ログから明確な理解を得ること、影響を受けた組織との協力、そして透明性への欲求のバランスを取ろうと努めています。私たちは深刻度に基づいて最善を尽くして優先順位付けを行い、リソースを追加しています。Hugging Faceは依然として私たちが見た中で最も深刻な事件です。私たちのエージェントが見つけたものを開示するかどうかは相手方の判断に委ねられるため、それらに縛られつつ可能な限り透明性を保つつもりです」と語りました。





学習中のAIエージェントがネットワーク制限を回避して外部サービスへアクセスしたことを受けて、OpenAIは最も能力の高いAIモデルを対象に、ツール利用を伴う学習、評価、推論を一時停止し、安全対策を追加した上で開発を再開する方針を示しています。

OpenAIが「最も高性能なAIモデル」の学習を一時停止、AIエージェントの挙動を大規模調査中 - GIGAZINE