AIを用いて作成された精巧な偽画像・動画はディープフェイクと呼ばれており、このポルノ版が「ディープフェイクポルノ(フェイクポルノ)」です。2024年1月末、X(旧Twitter)をはじめとするソーシャルメディアプラットフォーム上で歌手のテイラー・スウィフトのフェイクポルノが拡散され、大きな問題となっているのですが、フェイクポルノを禁止するための法案提出に向けた動きが活発になっていると報じられています。

Lawmakers propose anti-nonconsensual AI porn bill after Taylor Swift controversy - The Verge

https://www.theverge.com/2024/1/30/24056385/congress-defiance-act-proposed-ban-nonconsensual-ai-porn



Taylor Swift AI images prompt US bill to tackle nonconsensual, sexual deepfakes | Deepfake | The Guardian

https://www.theguardian.com/technology/2024/jan/30/taylor-swift-ai-deepfake-nonconsensual-sexual-images-bill

2024年1月の第4週頃から、X上でテイラー・スウィフトのフェイクポルノが拡散されるようになりました。テイラー・スウィフトのフェイクポルノの中には4500万回以上再生されたものもありますが、記事作成時点では「Taylor Swift」という単語検索を不可能にすることでXは問題に対処しています。

X(旧Twitter)で「Taylor Swift(テイラー・スウィフト)」が検索不可能に、ディープフェイクポルノ拡散防止のため - GIGAZINE



テイラー・スウィフトのフェイクポルノの作成に利用されたということで、Microsoftは生成AIツール「Microsoft Designer」で「有名人に似た画像」を生成できないように、制限を追加しています。

ネットで拡散された「テイラー・スウィフトのディープフェイクポルノ」がMicrosoftの生成AIツール「Microsoft Designer」で生成されていたとの指摘 - GIGAZINE



アメリカでは48の州とコロンビア特別区でリベンジポルノ防止法が制定されており、今回のテイラー・スウィフト事件を受け、イリノイ州、バージニア州、ニューヨーク州、カリフォルニア州などの一部の州では、フェイクポルノをリベンジポルノ防止法に含めるよう法律の修正が行われているところです。

テイラー・スウィフトのフェイクポルノが拡散されたことを受け、アメリカの議員たちは、自身のフェイクポルノを作成された人が訴訟を起こせるようにする法律「明示的な偽造画像および同意のない編集の妨害(DEFIANCE)法」を提案しました。この法律は、同意なしに作成された個人を特定できる「性的に露骨な偽造画像」に対して、被害者が民事訴訟を起こせるようにする権利を追加するというもので、被害者は画像を拡散させる目的で「故意に製作または所持」した人物から金銭的な損害賠償を請求可能となります。

DEFIANCE法案は、民主党のディック・ダービン上院議員が提出したもので、共和党のリンゼー・グラハム上院議員やジョシュ・ホーリー上院議員、民主党のエイミー・クロブシャー上院議員が賛同しています。DEFIANCE法は2022年にジョー・バイデン大統領により再認可された「女性に対する暴力法(VAWA)」に基づいており、偽造されていない露骨な画像に対しても同様の訴訟の権利が与えられることとなります。

法案を提出したダービン上院議員らは、「デジタル操作された露骨なフェイクポルノの量が急激に増加していることに対応するための法律」と説明しており、フェイクポルノが「女性、特に公人、政治家を搾取したり嫌がらせしたりするためにどのように利用されているのか」の具体例として、テイラー・スウィフトの事件を紹介しています。

なお、テイラー・スウィフトのフェイクポルノが拡散された際、ホワイトハウスの報道官であるカリーヌ・ジャンピエール氏は、「テイラー・スウィフトの偽画像が拡散されていることは憂慮すべき事態です。我々はこのような事件が女性と女児に不釣り合いな影響を与えていることを理解しています。 バイデン大統領は実行措置を通じ、偽のAI画像のリスクを確実に軽減するため取り組んでいます。真の解決策を見つける作業は今後も続きます」と言及し、フェイクポルノを規制するための法律が必要であると述べていました。





DEFIANCE法はAIによるフェイクポルノに対応するために提出されたものと説明されていますが、「ソフトウェア、機械学習、AI、その他のコンピューターを利用して生成あるいは技術的手段を用いて作成されたあらゆる性的画像」が、偽造画像に該当すると説明されており、これらを対象に訴訟を提起することができるようになります。Photoshopで作成された画像も偽造画像に該当し、「画像が本物ではないことを示すラベル」などが追加されていたとしても、責任が免除されるわけではないそうです。

しかし、この種の法規制は芸術的表現に関する大きな疑問を引き起こすと海外メディアのThe Vergeは指摘。実際、政治的パロディや創造的なフィクションの扱いをめぐって、有力者が訴訟を起こす可能性が挙げられています。DEFIANCE法も同様の疑問をいくつか提起する可能性があり、可決に向けて依然として困難な戦いに直面しているものの、その規制内容は大幅に限定されているとの指摘もあります。