グラミー賞も受賞した歌手テイラー・スウィフトのディープフェイク(AIを用いて作成された合成画像・映像)が、X(旧Twitter)で拡散されています。これを受け、Xでは検索機能で「Taylor Swift」と検索することが不可能になりました。

X is being flooded with graphic Taylor Swift AI images - The Verge

https://www.theverge.com/2024/1/25/24050334/x-twitter-taylor-swift-ai-fake-images-trending

Swift retaliation: Fans strike back after explicit deepfakes flood X | TechCrunch

https://techcrunch.com/2024/01/25/taylor-swift-ai-deepfake-fan-response/

X makes Taylor Swift's name unsearchable amid viral deep fakes | Mashable

https://mashable.com/article/taylor-swift-search-block-on-x

AI技術を用いて作成された本物と見紛うような偽画像や動画はディープフェイクと呼ばれており、ディープフェイクが登場してからすぐに、ディープフェイクを用いて作成されたポルノ映像(フェイクポルノまたはディープフェイクポルノ)が問題となりました。フェイクポルノは一部の国と地域では法律で禁止されており、リベンジポルノよりもダメージが大きいという指摘もあるほどです。

AI製「有名女優のポルノ」が爆増 - GIGAZINE



2024年1月の第4週頃から、X上でテイラー・スウィフトのフェイクポルノが急速に拡散されていることが報告されています。特に注目を集めた動画のひとつは4500万回以上再生されており、投稿は2万4000回以上リポストされており、数十万件のいいねやブックマークを集めていました。海外メディアのThe Vergeによると、この投稿は削除されるまで約17時間にわたってX上で閲覧され続けていたそうです。

フェイクポルノ被害にあったテイラー・スウィフトを守るため、X上では「#ProtectTaylorSwift」というハッシュタグを利用して、フェイクポルノを非難する投稿が何千件も寄せられています。





フェイクポルノの被害者はテイラー・スウィフトだけではなく、海外セレブや一般の女子高生が被害にあった事例も存在します。

AIが生成した「クラスメイトの女子高生の偽ヌード写真」を男子高生がグループチャットで共有したとして警察が捜査を開始 - GIGAZINE



個人情報の盗難やデジタル被害に焦点を当てた調査会社・Home Security Heroesの調査データによると、2023年時点でインターネット上に存在するすべてのディープフェイク動画の98％がフェイクポルノ動画であるそうです。また、ディープフェイク動画のターゲットとなるのは99％が女性であることも明らかになっています。

イングランドおよびウェールズでは2023年6月からディープフェイクポルノの共有が犯罪とみなされるようになっており、イギリス政府は「写っている人物の同意なしに個人的な画像を共有する虐待者・略奪者・元パートナー」を取り締まると発表しています。

アメリカでは48の州とコロンビア特別区でリベンジポルノ防止法が制定されていますが、イリノイ州、バージニア州、ニューヨーク州、カリフォルニア州などの一部の州は、フェイクポルノをリベンジポルノ防止法に含めるよう法律の修正に取り組んでいます。

しかし、多くの国と地域がフェイクポルノ問題に真剣に取り組んでいないと海外メディアのMashableは指摘。インターネット上で性的虐待にあった人々の声を広げることを目的としたキャンペーンである#MyImageMyChoiceは、「ほとんどの政府は行動を起こしていません。ほとんどの政府には(フェイクポルノを規制するための)法律がないか、法律に抜け穴がたくさんあるという状態です」「ほとんどの国には、誰がインターネットを監視する責任を担うのかについての枠組みが存在しません」と指摘しています。

テイラー・スウィフトのフェイクポルノが拡散されたXには「合成または操作されたメディアに関するポリシー」が存在しており、フェイクポルノの投稿は明示的に禁止されています。

そのため、テイラー・スウィフトのフェイクポルノの拡散を受け、X上の安全性を確保するための施策などを伝える公式アカウントの@Safetyは、「Xでは、同意のないヌード(NCN)画像の投稿が厳しく禁止されており、そのようなコンテンツに対してはゼロトレランス・ポリシー(設定されたルールに違反するたびにペナルティを課すポリシー)を採用しています。私たちのチームは、確認されたすべての画像を積極的に削除し、それらを投稿したアカウントに対して適切な措置を講じています。さらなる違反があれば直ちに対応し、コンテンツを削除できるように状況を注意深く監視しています。我々はすべてのユーザーにとって安全で尊敬に値する環境を維持することを約束します」と投稿しています。





その後、Xでは「Taylor Swift」と検索することができなくなりました。記事作成時点でも「Taylor Swift」と検索すると、以下の画像のように「問題が発生しました。再読み込みしてください。」と表示され、検索結果が表示されなくなっています。これと同じように、「Taylor Swift AI」や「Taylor AI」と検索した場合も、検索結果は表示されなくなっていました。



ただし、「Swift AI」や「Taylor AI Swift」、「Taylor Swift deepfake」といった単語を検索すると、検索結果は表示されてしまいます。AI画像の生成速度の速さやインパクトの大きさにより、ここ数カ月でXを含むソーシャルメディアプラットフォームではAI画像が急増するようになっています。そのため、Mashableは主要なソーシャルメディアプラットフォームがAIで生成されたコンテンツの封じ込めに苦労していると指摘。さらに、「『Taylor Swift』の検索を不可能にするということは、Xがプラットフォーム上のフェイクポルノを処理するための方法を持っていないということを示唆しています」と述べ、Xがフェイクポルノを処理するための根本的な施策を有していない可能性を指摘しています。

今回の事態を受け、ホワイトハウスの報道官であるカリーヌ・ジャンピエール氏は、「テイラー・スウィフトの偽画像が拡散されていることは憂慮すべき事態です。我々はこのような事件が女性と女児に不釣り合いな影響を与えていることを理解しています。 バイデン大統領は実行措置を通じ、偽のAI画像のリスクを確実に軽減するため取り組んでいます。真の解決策を見つける作業は今後も続きます」と言及し、フェイクポルノを規制するための法律が必要であると述べました。





なお、ディープフェイクを用いて作成された詐欺的広告動画はYouTube上でも問題となっています。

AIが作成した偽セレブの詐欺的広告動画がYouTubeで1億9500万回以上再生されている - GIGAZINE