「いつも綺麗だよ、応援してるよ」の直後に性的ディープフェイク送信 撮影会モデルが恐怖告白 生成AI×エロ どこまで規制
神奈川県教育委員会は、生成AIを使って同僚女性教諭の水着画像を作成し、生徒が見られる状況を作ったとして、30代の男性教諭を停職6カ月の懲戒処分にしたと発表した。この件をめぐってはネット上で「軽い処分だから解雇にしてほしい」「個人で楽しむなら問題ない」など様々な声が上がっている。
警察庁によると、18歳未満を対象とした性的ディープフェイクの被害件数は、1月から6月までで123件に上り、前年同期比で倍増している。韓国では2024年に法律が改正され、性的ディープフェイク画像の生成・所持・閲覧だけでも罪に問われるようになった。一方、日本には性的ディープフェイクそのものを規制する法律はなく、個人で作成・所持するだけでは罰則がない状態が続いている。
『ABEMA Prime』では、性的ディープフェイクの違法の線引き、作成の実態、海外との違いについて考えた。
■「リプライ欄に水着姿に生成された画像を載せられた」
撮影会モデルとして活動する山下沙織氏は、性的ディープフェイクの被害に遭った当事者だ。山下氏は「普段は露出の少ない写真を撮っている。自分のSNSにワンピース姿の写真を載せたら、リプライ欄に非常に露出の高い水着姿に生成された画像を載せられてしまった」と被害の経緯を説明する。その画像について「実在する人物のような質感で、私のフォロワーから『大丈夫？』と連絡が来て知った。かなり多くの人の目に触れていた」と振り返った。
別の事例については、「相手はもしかしたら、私が喜ぶと思って送ったのかもしれない。『いつも綺麗だよ、応援してるよ』という言葉に続いて、そういう画像が送られてきて、すごくショックだった」と振り返る。 対応については「ブロックして削除したが、相手には何も言えなかった」とし、「生成AIだけでなく、裸の写真に私の顔を合成した画像も多く送られてきている」と現状を明かした。
山下氏は「『公開しなければいい』と言われたこともあるが、根本的に『まず作らないでほしい』というのが本音だ。作成や所持だけでも罰則を設けてほしい」と訴える。
■「不愉快だからといって直ちに違法とは言えない」
弁護士の深澤諭史氏は、現行の日本法における規制の難しさをこう説明する。「現行法にはディープフェイクそのものを規制する法律がない。1対1でDMを送っただけの場合、名誉毀損や肖像権侵害など、公にした場合を想定した規制を適用するのは難しい。わいせつ画像の場合も不特定または多数への送信であれば送信罪となるが、単独では適用が困難だ」。
セクシャルハラスメントとして訴えることの可否については「1対1でも精神的苦痛を覚えた場合は民事上の不法行為になり得るが、セクハラは職場や学校など継続的な人間関係の中で、その場から離れられない状況を基本的に想定している。ネット上でメッセージが1通届いた程度では適用が難しい」と説明する。深澤氏自身、かつて法廷で裁判官から「見なきゃいいじゃないか」と言われたことに言及し、「裁判所のハードルは高く、不愉快だからといって直ちに違法とは言えないのが基本的な考え方だ」と説明した。
一方で、今回の神奈川県のケースについては「職場でのセクシャルハラスメントとして違法行為の対象になり得るし、地方公務員法の規定に基づく懲戒処分の対象にもなる」と説明。停職6カ月の処分については「悪質ではあるが、重すぎるという考え方もある」と言及した。
性的なディープフェイクを規制する際の「性的」の定義についても、深澤氏は「わいせつという概念自体が非常に難しく、『普通人の正常な性的羞恥心を害するもの』などといった最高裁の基準があるものの、実質的には何も言っていないに等しい」と指摘する。「悪いものを規制しようとしてその周辺まで規制されたり、萎縮して表現の自由が不当に制約される懸念もある」と述べ、法規制には慎重な検討が必要だとの見方を示した。
■“自衛”と表現の自由という観点
生成AIクリエイターのおすしスキー氏は今回、リアルタイムのディープフェイク技術を使って出演した。顔と声の両方が合成されており、画面越しでは本人との判別が難しいほどだ。おすしスキー氏はディープフェイク技術の変遷について「2018年にビジネスを始めた頃は数万枚の画像素材を集めて機械学習させる手法だったが、2021年に『InsightFace』という技術が登場し、画像1枚から顔を貼り付けた合成動画が作れるようになった。現在はStable DiffusionやGrokなどにも応用されており、ChatGPTが当たり前に使える世の中になっているのと同様に、画像生成も非常に手軽になっている」と説明する。
性的ディープフェイクの依頼については「アダルト動画の制作業者から、特定の芸能人の顔に入れ替えて『その芸能人に激似の女優として販売したい』と頼まれたが後々のトラブルに発展すると伝えて断った」と明かす。商業的な利用についても「SNSのアカウントを伸ばしたい人が顔を変えて配信するような技術顧問をする一方で、2018年頃から個人の依頼もコンスタントに舞い込んでくる」と述べた。
韓国が2024年に性的ディープフェイクの生成・所持・閲覧を罰則の対象とした点について、おすしスキー氏は法規制と技術活用のバランスに言及する。「ディープフェイク技術は、個人がプライバシーを守るために顔を変えてネットに出るという“自衛”にも使える。表現の自由や犯罪から身を守る観点からも、こうした技術の必要性はある」と語る。
ただし、他人の画像を性的に加工する行為に対してアナウンサーの吉川美代子氏は「自分の性的快楽のために他人の画像を性的に加工するのはやはりダメだ。道徳心だけに頼るのではなく、法的に明確な線引きをしておくべきだ」と意見を示した。山下氏は「作ることや持つことに罰則があってほしい。まず作らないことを考えてもらいたい」と改めて訴えた。
（『ABEMA Prime』より）
