生成AIの発達により、AIで作成された偽画像であるディープフェイクでヌード画像(ディープフェイクポルノ)を生成することが容易になっており、すでに世界各国でディープフェイクポルノによる嫌がらせが社会問題化しています。スペインで発生した事件では、クラスメイトのディープフェイクポルノを生成・共有したとして起訴された15人の生徒らに対し、1年間の保護観察処分の判決が下されました。

Spain sentences 15 schoolchildren over AI-generated naked images | Spain | The Guardian

https://www.theguardian.com/world/article/2024/jul/09/spain-sentences-15-school-children-over-ai-generated-naked-images



イギリスの大手日刊紙・The Guardianは2024年3月に、スペイン南部のアルメンドラレホという町で起きたAI生成のディープフェイクポルノを巡る事件を報じました。この町に住むミリアム・アルアディブさんの14歳の娘は、「ClothOff」というAIポルノアプリで自身のディープフェイクポルノ画像が作られ、他の生徒が作ったWhatsAppグループで数週間にわたり拡散されてしまったとのこと。

アルアディブさんの娘以外にも複数人の少女が、同様のディープフェイクポルノ画像拡散の被害に遭っていました。被害者は学校に行くのを拒否したり、パニック発作に苦しんだり、恐喝されたり、いじめに遭ったりするなどの被害を受けており、検察はディープフェイクポルノの生成や拡散に関わった子どもらの起訴を検討していました。

この事件についての詳しい内容は、以下の記事を読むとよくわかります。

少女の性的被害が相次ぐ写真から衣服を剥ぎ取るAIポルノアプリ「ClothOff」の背後にいる人物とは？ - GIGAZINE



その後の警察の捜査で、13〜15歳の子どもらが一連のディープフェイクポルノの生成および拡散に関わっていることが判明しました。そして7月9日、バダホス市の少年裁判所が合計15人の子どもらに対して、「20件の未成年者の児童虐待画像を作成した罪」と「20件の被害者に対する道徳的誠実さに対する罪」で、有罪判決を下しました。

裁判所は声明で、「未成年者らが人工知能アプリケーションを使用して、ソーシャルメディアのプロフィールから少女らの顔を取り出し、その画像を裸の女性の体に重ね合わせることで、加工された画像を手に入れたことが証明されました。加工された画像はその後、2つのWhatsAppグループで共有されました」と述べています。

被告らにはそれぞれ1年間の保護観察処分が言い渡され、ジェンダーと平等の意識および「テクノロジーの責任ある使用」についてのリハビリコースへの参加が義務づけられました。なお、犯人の中にはスペインの法律で起訴できない13歳以下の子どももいましたが、これらの子どもも児童保護サービスに送られ、リハビリコースへの参加が命じられる可能性があるとのことです。