YouTubeがコミュニティガイドラインを改訂し、死亡した未成年や重大な暴力事件の被害者をリアルに再現して事件の一部始終を語らせるコンテンツの取り締まりを2024年1月16日に開始すると発表しました。

YouTube policy updates - YouTube Help

https://support.google.com/youtube/answer/10008196

YouTube is cracking down on AI-generated true crime deepfakes - The Verge

https://www.theverge.com/2024/1/8/24030107/youtube-ai-deepfakes-true-crime-victims-minors



今回YouTubeが禁止を発表したのは、AIを使用して合成した犯罪の被害者、特に子どもの被害者の顔や声を使って事件について語らせるムービーです。

例えば、2023年には事件当時10歳の少年2人が2歳児を誘拐して暴行の末に殺害した事件の被害者が話すムービーがTikTokで流行し、大きな問題となりました。

以下は、2歳で亡くなった被害者のジェームスくん(左)の写真と、それをAIで再現したTikTokのムービー(右)です。このムービーを取り上げたイギリスの日刊タブロイド紙・The Mirrorによると、ジェームスくんの母親であるデニス・ファーガス氏は「死んだ子どもをよみがえらせるなんて、気持ち悪いことこの上ありません」と強烈な嫌悪感を表明し、作成者に削除を求めたとのこと。



TikTokでは殺害されたか、または行方不明の子どもを題材にしたディープフェイク映像が他にも多数出回っており、TikTokはすぐにこれらのムービーを削除しましたが、YouTubeに転載されて閲覧が可能な状態になっていることが指摘されています。

これに対応するため、YouTubeはハラスメントやネットいじめに関するポリシーを更新し、死亡した未成年などをリアルにシミュレーションして、その死や暴力事件などを描写したコンテンツを規制することを発表しました。



このポリシーに違反した場合、チャンネルからコンテンツが削除され、3ストライク制に基づき1回目のストライクでは1週間にわたり動画のアップロードなどが制限されます。そして、90日以内に再び違反した場合は罰則が強化され、それでも改善されない場合は最終的にチャンネル自体が削除されます。

YouTubeでは以前にもAIを使って実在の歌手に歌を歌わせる動画が物議を醸したことがあり、ミュージシャンの声を使った動画作成用のAIツールのリリースに向けて調整を行いつつ、そのような動画を明確化する方針が掲げられています。

YouTubeがAI生成・改変動画をはっきり明示する方針を発表、クリエイターに情報開示を義務づけ違反するとパートナープログラム停止も - GIGAZINE