Googleは2024年第1四半期(1〜3月)には広告関連で700億ドル(約11兆円)もの売上を記録しており、インターネット広告市場では依然としてトップのシェアを誇っています。そんなGoogleが広告ポリシーを更新し、「露骨な性的表現やヌードを含むように変更または生成された合成コンテンツの宣伝」を禁止するとしました。これにより、ディープフェイク(AI技術を用いて作成される本物と見紛うような偽画像・動画)で作成されたポルノコンテンツである「ディープフェイクポルノ」を作成することができるサービスの宣伝が禁止されることとなります。

Google bans advertisers from promoting deepfake porn services - The Verge

https://www.theverge.com/2024/5/3/24148368/google-ad-policy-deepfake-pornography-nudes

Googleは長らく「性的に露骨な広告」(性的興奮を目的とした生々しい性的行為を表すテキスト・画像・音声・動画)を禁止しており、同社の広告ポリシーの性的なコンテンツという項目では、「ヌード」および「性的行為を目的とした出会い系」が厳しく制限されるカテゴリに指定されており、「部分的なヌード」「性的なテーマの出会い系」「性的な商品」「性的なエンターテイメント」「成人向けの美容施術」「性的内容を暗示する要素やテーマ」なども一部制限付きのカテゴリとして、配信が厳しく制限されています。しかし、これまでディープフェイクポルノやその他の形式の性的コンテンツを生成することができるサービスの宣伝は禁止されていませんでした。

現地時間の2024年5月1日、Googleは不適切なコンテンツに関するポリシーの更新を発表。新たに、「露骨な性的表現やヌードを含むように変更または生成された合成コンテンツの宣伝」が禁止されることを明かしています。

Update to Inappropriate Content Policy (May 2024) - Advertising Policies Help

https://support.google.com/adspolicy/answer/14720423



ポリシーの変更は2024年5月30日に発効予定となっており、これによりディープフェイクポルノの作成方法を指南するようなウェブサイトやアプリケーションなどの宣伝が禁止されることとなります。

これについて、Googleの広告担当者であるマイケル・アシマン氏は、「今回のポリシー変更は、ディープフェイクポルノや合成ヌードコンテンツの作成を提案するようなサービスの広告を明示的に禁止するためのものです」と海外メディアのThe Vergeに対して説明しました。

アシマン氏によると、Googleの広告ポリシーに違反する広告はすべて削除されるそうです。なお、Google広告で配信される広告がポリシーに違反しているかどうかは、人間によるレビューと機械による自動認識システムの組み合わせにより判断されるそうです。なお、Googleの年次広告安全性レポートによると、このシステムにより2023年に性的コンテンツに関するポリシーに違反したとして、18億件以上の広告が削除されています。

なお、アメリカではディープフェイクポルノによる被害が深刻化しており、規制が追いついていない実態が指摘されています。また、2024年1月には世界的な歌手であるテイラー・スウィフトがディープフェイクポルノの被害にあい、世界的な問題になりました。

X(旧Twitter)で「Taylor Swift(テイラー・スウィフト)」が検索不可能に、ディープフェイクポルノ拡散防止のため - GIGAZINE