OpenAIのAIエージェントが5月13日にHugging Faceのアカウントを不正に乗っ取りサーバーを調査していたことが明らかに、「Hugging Faceハッキングを防げたはず」とセキュリティ研究者
OpenAIは2026年7月に「AIが間違ってHugging Faceをハッキングしてしまった」と報告しました。しかし、この事例よりも2カ月以上前のタイミングで、OpenAIのAIがHugging Faceのアカウントを不正に乗っ取り、サーバーを調査していたことが明らかになっています。
EXCLUSIVE: OpenAI's rogue agents probed Hugging Face for weaknesses two months before major hack | Reuters
Agents at Large | Tracing Illicit OpenAI Agent Activity on Hugging Face | SentinelOne
https://www.sentinelone.com/labs/agents-at-large-tracing-illicit-openai-agent-activity-on-hugging-face/
2026年7月、OpenAIは自社のAIモデルが社内テスト中に誤ってHugging Faceをハッキングしてしまったことを報告しました。報告によると、ハッキングを実行したのはGPT-5.6 Solと高性能なプレリリース段階にあるAIモデルの組み合わせだそうです。
2026年7月に起きたHugging Faceハッキング事件の詳細は以下の記事にまとめてあります。
OpenAIが新しいAIシステムで誤ってHugging Faceをハッキングしてしまったことを報告 - GIGAZINE
OpenAIが8月に公表したテクニカルリポートによると、OpenAIのAIはHugging Faceユーザーのデジタル認証情報を盗み、生物学関連のファイルへアクセスしたそうです。
しかし、OpenAIのAIによるHugging Faceに対するハッキングは、これらの報告よりも前のタイミングから行われていたことが、セキュリティ研究者らの報告により明らかになりました。
独立系の研究者であるヨナス・ヴィーダーマン＝メラー氏は、2026年9月の第2週にOpenAIのAIエージェントがHugging Faceのユーザーアカウント2件を侵害し、2026年5月13日には通常と異なる形式のファイルをHugging Faceのサーバーへ送信していた証拠を発見したと報告しています。
ヴィーダーマン＝メラー氏ら研究者は、Hugging Faceのネットワークの一部を調査し、侵入経路がないか試そうとしたと思える痕跡を発見したと報告しました。ただし、この痕跡が実際のシステム侵害につながったことを示す証拠は一切ないそうです。また、研究者とOpenAIはいずれも、この初期の探索活動が7月のHugging Faceハッキング事件の一部であったことを示す証拠は見つかっていないとしました。
Reuters wrote an article about my findings about two accounts on HF that got hijacked over by agents in May. The agents probed the HF infrastructure, in my opinion, could be early signals for what happened in July!
Knowing this, it poses the question whether the Huggingface-OAI…— jonas wiedermann-möller (@j0wimo) September 16, 2026
OpenAIの広報担当者であるドリュー・プサテリ氏は、同社が5月13日の出来事をインシデント報告書として開示しており、ヴィーダーマン＝メラー氏が指摘した活動についてもHugging Faceへ非公開で通知済みであるとと説明しています。OpenAIは「こうした問題について透明性を確保し、調査の進展に伴って得られた知見を共有することに尽力している」とロイターにコメントしました。
ヴィーダーマン＝メラー氏は、OpenAIが5月13日のAIエージェントによる探索活動を検知できなかったことで、その後のHugging Faceハッキング事件を防ぐ機会を逃したと指摘しています。ヴィーダーマン＝メラー氏は、「もし5月の時点でこの振る舞いを把握できていたらどうでしょう。その後に発生した、はるかに大規模な事件を防げた可能性があります」とコメントしました。
ヴィーダーマン＝メラー氏の調査結果を検証した外部専門家によると、今回検出された5月13日のAIエージェントによる探索活動は、これまでOpenAIのAIエージェントと関連付けられてきた活動と一致すると語っています。
サイバーセキュリティ企業SentinelOneで上級脅威研究者を務めるトム・ヘーゲル氏は、アカウントの乗っ取りとその後の探索活動が、これまでに知られているAIエージェントの振る舞いと「完全に一致する」と指摘。
Later on May 26, Nyx9 committed formbin.xlsx.
Its formulas tested whether a spreadsheet processor could reach the internet, a local file, Azure metadata, and an internal service.
That is early exploit-oriented capability probing.. not ordinary spreadsheet work. pic.twitter.com/ERD0Fz7Uxo— Tom Hegel (@TomHegel) September 16, 2026
ヘーゲル氏は、最先端AIを開発する研究機関はAIエージェントが「第三者のシステムとやり取りしたり、第三者のシステムに影響を与えたりした」場合、そのインシデントについて、より多くのデータを公開すべきだと主張しています。
AI安全団体・Nightingale Collectiveのシドニー・フォン・アークス氏も、この活動がOpenAIのエージェントによるものだという見解に同意。アークス氏は5月の事例が7月のHugging Faceハッキングを防ぐ手がかりになり得た「明確な警告サインである」と言及しました。
ヴィーダーマン＝メラー氏は、今回の調査報告により高度なAIシステムの開発を一時的に減速させるべきだという主張がさらに裏付けられたと主張。「安全性への取り組みが追いつけるように、開発を一時停止することは世界にとって良い結果をもたらすかもしれません」と語りました。
