Grokを使って継娘の性的な画像を大量作成した男性が自殺、被害者少女は性的被害と父親を失う二重苦で一夜にして人生が崩壊
SpaceXAIの開発するAIチャットボットであるGrokが生成した児童性的虐待コンテンツ(CSAM)を巡り、複数の被害者少女が同社を提訴しています。この訴状から、継娘の性的な画像を7000枚も作成した男性が自殺していたことが明らかになりました。
Lawsuit: Man used Grok to make 7K sex images of stepdaughter, then shot himself - Ars Technica
2025年末、X(旧Twitter)でGrokの画像編集機能が利用可能となりました。しかし、Grokを使うと簡単に子どもや女性の性的な画像を生成することができるということで大きな問題となります。この問題を受け、インドネシアやマレーシアでは一時的にGrokへのアクセスがブロックされる事態となりました。
Xでも使える生成AI「Grok」の画像編集機能で子どもや女性の性的画像が生成可能な問題を受けインド・フランス・マレーシアの当局が調査を開始 - GIGAZINE
SpaceXAI(旧xAI)はGrokが性的画像を生成できるようにした責任を問われ、被害者から集団訴訟を提起されました。原告側はSpaceXAIが他のAI企業が実施しているような「実在の人物や未成年者のポルノ画像を生成できないようにする基本的な予防措置」を講じていなかったと主張しています。
Grokに児童性的虐待コンテンツを作られたとしてティーンエイジャーがxAIを提訴 - GIGAZINE
この裁判の修正された訴状によると、2026年3月、とある少女の継父が少女が11歳の時に撮影した1枚の写真を使ってGrokで7000枚もの性的に露骨な画像を制作していたことが警察に発覚した後に、自殺したそうです。
訴状によると、Grokは有害な行為を一切警告することなく男が近親相姦やレイプを描いた過激な画像を生成することを許容していた模様。なお、SpaceXAIの児童安全システムは、男が「集団レイプ」というテキストを入力した際に、ようやく介入。SpaceXAIは全米行方不明・被搾取児童センターに事態を通報し、同センターが法執行機関にCSAMの存在を通知したことで逮捕に至りました。
CSAMが発見された場合、CSAMの作成に利用されたプラットフォームは加害者のIPアドレスなどの個人情報を共有する義務的報告要件があるにもかかわらず、SpaceXAIは警察および全米行方不明・被搾取児童センターに対してユーザー特定への協力を繰り返し拒否したことも明らかになっています。訴状にはSpaceXAIが数週間にわたって「あらゆる面で捜査を妨害」し、「法執行機関による犯人の所在確認・特定・逮捕」を困難にしたそうです。
最終的に警察がデバイスを押収する令状を取得したのち、継父は逮捕されることとなりました。そして、鑑識の調査により、継娘を描いた約7000枚のAI生成画像および動画が発見されます。家族は「Grokがユーザーに脱衣機能への容易なアクセスを提供していなければ、彼が有害な画像を作成することはなかっただろう」と主張しました。なお、この継父は生成したCSAMを他のCSAMとオンライン上で交換していた模様。
訴状によると、継父は保釈から2日後に自殺。これにより、継娘は「極度の個人的危機」に陥り、不安障害やうつ病に苦しむこととなったそうです。訴状では「被害者少女の人生は児童性的搾取と継父の自殺という二重の悲劇によって、一夜にして完全に崩壊しました。少女の家族は引き裂かれ、人生は悪夢と化しました」と主張されています。
この訴訟で被告の弁護を担当するリーフ・カブラザー・ハイマン＆バーンスタイン法律事務所とベア・ジョーンズ法律事務所は、SpaceXAIは子どもの安全よりも利益を優先するために、ユーザーを特定するための情報を法執行機関に共有することを避けていると指摘。
Deepfake Victims Bolster Class Action Against xAI, Add Stability AI, Alleging Their AI Models Generated Child Sexual Abuse Material - Lieff Cabraser
https://www.lieffcabraser.com/2026/07/deepfake-victims-bolster-class-action-against-xai-add-stability-ai/
なお、SpaceXAIの創設者であるイーロン・マスク氏は、GrokがCSAMを生成するために利用されたことは一度もないと否定しています。
修正された訴状では、被告にStability AIが追加されています。これは、Stability AIのオープンウェイトモデルがCSAMでトレーニングされており、ユーザーがGrokで生成した露骨な性的画像をさらに改変するために利用したとされる「サードパーティー製のヌード化アプリ」の基盤になっているためです。
SpaceXAI同様、Stability AIも意図的に安全対策を緩和することで、性的コンテンツを生成可能としてユーザーを獲得しているとして非難されています。
