AIを用いて動画や写真に含まれる人物の顔や体を別人のものに置き換える技術は「デイープフェイク」と呼ばれており、ポルノコンテンツの生成や政治的扇動コンテンツの作成などに悪用されています。中でもデイープフェイクを用いてポルノコンテンツを生成するウェブサービスはかなりのユーザー数を抱えており、収益は数億円規模に達しているそうです。

AI Nudifiers continue to reach millions and make millions

https://indicator.media/p/ai-nudifiers-continue-to-reach-millions-and-make-millions

デイープフェイク技術が登場したばかりの頃は少数のユーザーが個人的にフェイクポルノを生成している程度でしたが、近年ではフェイクポルノを投稿して収益化できるウェブサービスや、簡単なユーザーインターフェースで誰でもフェイクポルノを生成できるようにしたウェブサービスなどが複数登場しています。それらのウェブサービスは数多くのユーザーを抱えており、例えば2025年5月に閉鎖を発表した「Mr.Deepfakes」には2018年2月から2024年12月までに5万8123本の動画がアップロードされ、累計で20億回以上閲覧されていたことが明らかになっています。

インターネット最大のディープフェイクポルノサイト「Mr.Deepfakes」が永久閉鎖 - GIGAZINE



新たに、デジタル詐欺などの調査報道をしているIndicatorがデイープフェイクを用いたポルノサイト85件に関する調査を実施しました。その結果、これらのウェブサイトは有料トークンと引き換えにヌード化サービスなどを提供しており、18件のウェブサイトが過去6カ月で260万ドル〜1840万ドル(3億8000万円〜27億円)もの利益を上げていることが判明。さらに、各ウェブサイトの平均アクセス人数が6カ月で1850万人に達することも明らかになりました。

アクセス数の多い10件のウェブサイトを分析してアクセス元の国を調査した結果、最も多いのはアメリカで、その後にインド、メキシコ、ブラジル、ドイツが続いていたとのこと。また、これらのウェブサイトはAWSやCloudflareといった大手インターネットインフラストラクチャーを活用しており、54件のウェブサイトにはGoogleのサインインシステムが実装されていました。Googleは詐欺などに関わるウェブサイトを検閲してサインインシステムの実装を拒否していますが、ディープフェイクポルノサイトは中間サイトを利用して検閲を回避していたそうです。

なお、ディープフェイクによる被害が問題になる中、多くの国や地域ではディープフェイクを規制するルールの整備が進んでいます。例えば、イギリスでは性的に露骨なディープフェイクの作成および共有が犯罪になることが宣言されています。

性的に露骨な「ディープフェイク」の作成と共有は犯罪になるとイギリス政府が発表 - GIGAZINE



また、デンマークでは国民の身体・顔・声に関する権利を確立するべく、著作権法の改正手続きが進んでいます。

デンマークがディープフェイク対策で国民に自身の身体・顔・声に対する権利を与えるよう著作権法を改正すると発表 - GIGAZINE