中国のインターネット規制を担当している中国サイバースペース管理局(CAC)が、「デジタルプラットフォームがAIによって生成されたすべてのコンテンツにラベル付けすることを義務づける計画」を発表しました。

国家互联网信息办公室关于《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见的通知_中央网络安全和信息化委员会办公室

https://www.cac.gov.cn/2024-09/14/c_1728000676244628.htm



China wants red flags on all AI-generated content • The Register

https://www.theregister.com/2024/09/16/china_ai_content_draft_regulations/

China proposes mandatory red flags placed on all AI-generated content posted online | Tom's Hardware

https://www.tomshardware.com/tech-industry/artificial-intelligence/china-proposes-mandatory-red-flags-placed-on-all-ai-generated-content-posted-online

サイバースペース管理局が発表した計画は、プラットフォームとオンラインサービスプロバイダーに対し、AIが生成したすべてのコンテンツにラベル付けを義務づけるというもの。付与されるラベルには、「ユーザーが明確に認識できるロゴや音声案内などの明示的な識別子」と、「コンテンツファイルのデータに追加されるユーザーが認識できない識別子」の両方が含まれます。

AI生成コンテンツがテキストの場合、テキストの先頭か末尾、あるいは中央の適切な場所に文章での説明や記号を追加するといった方法でのラベル付けが必要です。また、オーディオファイルの場合はリスナーに対して開始時点か終了時点、あるいはオーディオの途中に音声での説明などが必要とのこと。画像や動画でも目立つ位置にラベル付けが義務づけられており、ユーザーは「このコンテンツがAIによって生成されたものかどうか」が理解できるようにすることが求められています。

クリエイターは、プラットフォームにAI生成コンテンツを投稿したり、プラットフォームが提供しているAI生成ツールを使用したりする場合、プラットフォームのラベル付け機能を使用する必要があるとのことです。

また、投稿されたコンテンツのファイルにAI生成であることを示すメタデータがなくても、プラットフォームがコンテンツを分析した結果AIによって生成された痕跡が見つかった場合、プラットフォーム側が「このコンテンツはAIによって生成された疑いがある」とユーザーに通知することも義務づけられています。



今回、サイバースペース管理局は「草案に対するパブリックコメントを求める」としています。しかし、海外メディアのThe Registerは「中国の規制当局はこのような草案が出た後、大きな変更を加えようとしません。この草案は、中国政府が実施を望んでいることである可能性が高いといえます」と述べ、この草案がそのまま施行されるかもしれないとの見方を示しています。

テクノロジー系メディアのTom's Hardwareは、このような草案は中国政府によるインターネット規制の典型的な例だとしつつ、必ずしも悪いことばかりではないと指摘。近年は、生成AIツールの開発者やその声高な支持者が、生成AIツールを使って熟練労働者やアーティストに取って代わろうとしていますが、AI生成コンテンツへのラベル付けが義務化されれば、その流れが変わる可能性もあるとのこと。

生成AIに関する法整備は中国に限らず世界各国で進められており、アメリカのカリフォルニア州でも、AI生成コンテンツへのラベル付与を義務づける「AB 3211」という法案が審議されています。この法案については、OpenAIやMicrosoft、Adobe、Amazon Web Services(AWS)などが参加するロビー団体も賛同しています。

OpenAI・Amazon・Microsoftなどの大手IT企業が「AI生成コンテンツへのラベル付与を義務付ける法案」に賛同 - GIGAZINE