OpenAIのAIモデルが誤ってHugging Faceをハッキングしてしまった一件を受け、同社に対して「公共に被害をおよぼす恐れのあるAI開発手法」を中止することを求める訴訟が提起されました。

"An AI did it" is no defense, says nonprofit suing OpenAI over Hugging Face hack - Ars Technica

https://arstechnica.com/tech-policy/2026/09/lawsuit-demands-openai-halt-unsafe-development-that-caused-hugging-face-hack/

2026年7月、OpenAIがAIモデルの社内テスト中に、誤ってHugging Faceをハッキングしてしまったことを明らかにしました。

OpenAIが新しいAIシステムで誤ってHugging Faceをハッキングしてしまったことを報告 - GIGAZINE



この一件を例に挙げ、OpenAIに第三者のコンピューターシステムへのアクセスを止め、公共に被害をおよぼす恐れのあるAI開発手法を中止するよう求める訴訟が提起されました。訴訟を提起したのは科学技術の安全性に取り組む法律団体であるLegal Advocates for Safe Science & Technology(LASTT)です。LASTTはOpenAIのAIがHugging Faceをハッキングした一件について、「カリフォルニア州法に照らせば明白に違法」と主張しています。

カリフォルニア州包括的コンピューターデータアクセス・詐欺防止法(CDAFA)では、コンピューターシステムへの不正アクセスは明確に禁じられています。LASTTは「このサイバー攻撃を実行したのがAIエージェントだったとしても関係ありません。カリフォルニア州法は、『人工知能(AI)が自律的に被害を引き起こした』という主張は抗弁にならないと明確に定めています」と説明しました。

さらに、LASTTはOpenAIがカリフォルニア州の不正競争法にも違反していると主張しています。訴状の中でLASTTは、「安全性を欠く意思決定による被害を外部に転嫁し続けるOpenAIの姿勢は、根本的に不公正な事業慣行です」「公共に多大な負担を負わせながら私的利益のためにこうしたリスクを取る行為は、不道徳で、非倫理的で、抑圧的かつ不誠実で、重大な損害をもたらすものです」と主張しました。

LASSTはOpenAIのAIエージェントが許可なく第三者のコンピューターシステムにアクセスすることを禁じ、公共に深刻な被害を及ぼすおそれのある危険なAI開発手法をOpenAIが引き続き採用することを禁止する裁判所命令を求めています。OpenAIに対する補償的損害賠償や懲罰的損害賠償は請求しておらず、金銭面で求めているのは弁護士費用のみです。



今回の訴訟に対して、OpenAIは「Hugging Faceの一件は重大な事件であり、私たちはこれを受けて一連の対策を講じました。しかし、この訴訟にはまったく根拠がありません」とコメント。一連の対策には、意図した方針から逸脱するAIモデルが第三者に及ぼす影響に関する技術報告書の公開、AI開発のペースを落としたこと、安全基準を満たさないAIモデルの公開を見送ったことなどが挙げられます。

しかし、LASSTはOpenAIによる自主的な対策では不十分であると指摘し、裁判所による制限を受けるべきだと主張しています。実際、The New York Timesは「OpenAIの経営幹部がHugging Faceへのハッキングの数カ月前に、最新モデルが適切に監視されていないと警告した従業員の声を無視しました」と報じています。

カリフォルニア州の不正競争防止法では「企業が違法または不公正な行為をした場合、その違法行為によって団体自身も損害を受けている限り、公共を代表して裁判を起こすことを認めている」ため、LASSTにはOpenAIを訴える資格があると説明しました。なお、LASSTはOpenAIの行為について規制当局や一般の人々に説明するためにリソースを振り向ける必要が生じたため、このハッキングにより損害を受けたと主張しています。

Hugging Faceへのハッキング以降、LASSTの職員は通常業務を後回しにして、「規制当局向けに、この事件についての説明会を企画・調整し、参加する」ために対応してきたと説明しました。その後も追加の説明依頼に応じており、多くの作業が必要になったと説明しています。訴状には、LASSTの職員はOpenAIの安全性を欠く開発手法への対応に、数十時間を費やしたと記されています。