あらゆるプライベートなチャットやファイルを政府の指示で検閲する「チャットコントロール法」が危険で無意味な理由とは？
EUでは児童を保護するという名目を掲げて、すべての通信内容とファイルのスキャンを義務づける児童性的虐待規制案(チャットコントロール法)が推進されています。チャットコントロール法がなぜ危険であり、子どもを守る上でも無意味なのかについて、プライバシーやセキュリティ関連のニュースメディアであるPrivacy Guidesが解説しました。
Chat Control Must Be Stopped, Act Now! - Privacy Guides
◆チャットコントロール法とは何なのか？
チャットコントロール法とは、政府が「不正なコンテンツ」と見なすものを検出するため、テキストメッセージ・電子メール・SNS・クラウドストレージ・ホスティングサービスを含むすべてのサービスプロバイダーに対し、エンドツーエンドで暗号化されたものを含むあらゆる通信とファイルのスキャンを義務づける一連の法案のことです。
記事作成時点では、チャットコントロール法は児童性的虐待コンテンツ(CSAM)の検出を掲げたものとなっています。しかし、ひとたびチャットコントロール法が可決され、あらゆる通信やファイルが検閲されるようになれば、将来的にはCSAMだけでなくその他の犯罪や政治的言論まで規制される危険性があります。また、あらゆるデータが収集・スキャンされるということは、ハッキングなどによって個人的なデータが犯罪者の手に渡ったり、オンライン上で漏えいしたりするリスクもはらんでいるとのこと。
EUではこれまでにもたびたびチャットコントロール法が提案されており、可決目前にまで迫ったこともありましたが、記事作成時点では未成立です。しかし2025年10月14日には欧州議会で最終投票が行われる予定となっており、9月12日には各国政府が立場を決定するとのことで、再びチャットコントロール法可決の危機が迫っています。
◆チャットコントロール法が可決されると何が危険なのか？
Privacy Guidesは、チャットコントロール法が可決された際に生じるリスクについてまとめています。
1：エンドツーエンドの暗号化の破壊
すべての通信が検閲されるということは、誰にも見られない安全な通信が不可能になることを意味します。これによって社会的に脆弱(ぜいじゃく)な立場の人々や犯罪被害者、内部告発者、ジャーナリスト、活動家、その他すべての人々がやり取りする機密ファイルや通信が保護されなくなります。
2：検閲対象の拡大
ひとたび大規模な検閲システムが導入された場合、当局はCSAMだけでなく薬物の使用や抗議活動への参加、反体制的な政治活動、指導者に対する否定的な発言などを検出するようにシステムの範囲を拡大可能となります。すでにEUの法執行機関である欧州刑事警察機構(ユーロポール)は、チャットコントロール法のプログラム拡大を求めているとのこと。
3：犯罪者による攻撃
チャットコントロール法を運用するためには、すべての通信を検閲できるバックドアを設ける必要があります。何かにバックドアが存在する場合、高度な技術を持つ犯罪者がアクセスして情報を盗めるようになるのはほぼ確実で、犯罪者は各サービスに個別でアクセスするだけでなく、当局が保管する全体データベースにアクセスする可能性もあります。これにはもちろん、検閲によってフィルタリングされたCSAMも含まれており、その中には10代の若者が恋人同士でやり取りするファイルも含まれます。その結果、チャットコントロール法の導入が、犯罪者が効率的に児童の性的画像を収集するのに役立ってしまう危険すらあるとのこと。
4：誤検知の危険性
これほどに大規模かつ透明性がない検閲システムを運用する場合、一定数の誤検知が生じることは避けられません。AIによる検出技術は確かに高い精度であるものの、チャットコントロール法の対象はEUの全人口である約4億5000万人に及ぶため、ほんの数％でも誤検知のリスクがあれば、膨大な数の人々が小児性愛者として誤ったレッテルを貼られる危険があります。たとえば、子どもがお風呂に入った時の写真をクラウドストレージに保存した両親や、授乳中のやり方を写真付きで親族に尋ねた母親、合意の上で恋人と写真を送り合う10代の子どもたち自身が、性的捕食者として調査対象になるかもしれません。
5：圧倒的なリソース不足
システム全体でフラグ付けされるコンテンツの量は信じられないほどになり、コンテンツを調査する担当機関のリソースが不足することは避けられません。これらのコンテンツには膨大な誤検知も含まれており、これらを調査するだけで捜査員の貴重な時間が失われ、実際の性的虐待事件を調査する時間が足りなくなってしまう可能性があります。
6：被害者が助けを求めにくくなる
大規模検閲システムが運用されている場合、オフラインで性的虐待を受けている被害者が「自分のメッセージも誰かにスキャンされてしまう」と感じ、通報しにくくなってしまうことも考えられます。さらに、被害者や目撃者が性的虐待の証拠を誰かに送信した場合でもフラグが立てられ、まるで被害者ではなく加害者であるかのように扱われてしまうリスクもあるとのこと。Privacy Guidesは、「残念ながら多くの人は、通報しない方が安全だと判断するでしょう」と述べています。
7：自己検閲の一般化
あらゆるメッセージが検閲されていることが周知されれば、児童性的虐待に関する人だけでなく、その他のあらゆる人々も「このメッセージも見られるかもしれない」と感じ、助けを求めたり自分のことを打ち明けたりするのをやめてしまう可能性があります。その結果、LGBTQ+など社会的に阻害されたグループに属する人、あるいは犯罪の被害を受けている人などが悪影響を被るかもしれません。
8：民主主義の弱体化
大規模検閲システムは政府による野党へのスパイ活動を可能にします。すでに一部の国々では国家的な検閲が行われているほか、過去に国家的な検閲が行われた事例も数多く存在するため、将来的にEUに属する国の政権が反体制派や政治活動家、ジャーナリストの監視を強化する可能性は十分にあります。その際、チャットコントロール法が導入されていれば、検出するコンテンツを拡大するだけで容易に検閲が可能になってしまいます。
9：EU一般データ保護規則(GDPR)やその他の法律違反
GDPRやその他のプライバシーに関する法律は、EU内に住むすべての人々に対するデータ保護を強化していますが、チャットコントロール法はこれらの存在を無に帰してしまう可能性があります。
◆チャットコントロール法は子どもを守る役に立つのか？
Privacy Guidesは「チャットコントロール法によって子どもたちが守られるのでしょうか？」という疑問について、「いいえ。いくら強調しても足りません。この規制は子どもたちを守るどころか、世界中のすべての人々に害をもたらすでしょう。そうでないと主張するのは世間知らずか、あるいは誤報です」と回答。
まず大きな問題となるのが、AIを用いた大規模検閲システムには誤検知が付き物だという点です。仮に魔法のようなシステムが開発され、CSAMを99％の精度で検出されるようになったとしても、EUの全人口が約4億5000万人であることを考えれば、1％の誤検知はEU全体に住む数百万人に悪影響を及ぼします。さらにスイス連邦警察の報告によると、自動通報システムの約80％が誤検知であったとのことで、誤検知率は1％どころか数十％に達する可能性があります。
また、ドイツでは約20％の有効な通報のうち40％以上が子ども本人を対象としたものであり、その中には10代の恋人同士が合意の上で自撮り画像を送り合ったものも含まれています。こうした子ども同士のやり取りにフラグが立てられ、捜査員が調査に乗り出した結果、本来だったらプライベートなやり取りに過ぎない恥ずかしい写真が、関係ない複数の捜査員の目に触れてしまう危険性があります。Privacy Guidesは、「チャットコントロールによって危害を加えられ、おそらく生涯のトラウマを残すであろう子どもたちの数は、壊滅的なものとなるでしょう」と警告しました。
チャットコントロール法によってプライベートなデータを収集するシステムが構築されることで、むしろそのシステムやデータベースが犯罪者の標的になる可能性もあります。記事作成時点でも、世界各国の政府や民間企業で毎年のように大規模なデータ侵害が発生していることから、オンライン上で「プライベートなデータを完璧に保護して、捜査に必要なデータだけ法執行機関と共有する」ということがいかに難しいのかは明白です。
さらに問題となっているのが、児童性的虐待の大半は見知らぬ第三者ではなく、オフラインで子どもと接触できる身近な大人によって行われているという点です。CSAMの3分の2は子どもの自宅で作成されていることもわかっており、チャットコントロール法はこれを阻止するためには役立ちません。むしろ被害者である子ども自身も監視対象となることで、子どもが外部に助けを求めることを妨げるリスクもあるとのこと。
◆チャットコントロール法はEU圏外の人々にも影響を与える
10月14日の最終投票日にチャットコントロール法が可決された場合、その結果はEU圏外を含む世界中の人々に影響を与えることとなります。GDPRが日本を含む世界各国の企業に影響を与え、プライバシー保護の取り組みが改善されたように、チャットコントロール法はこれと真逆の危害を及ぼす可能性があるとのこと。
エンドツーエンドの暗号化は両端が保護されている場合のみ機能するため、EU圏外の人がEU圏内の人とやり取りする場合、EU圏外の人々が発信したメッセージやファイルも保護されなくなってしまいます。これを受けてEU圏外の企業もプライバシー保護機能を削除したり、暗号化のレベルを下げざるを得なかったり、ヨーロッパと関連するサービスを終了したりするリスクがあります。また、アメリカ・カナダ・オーストラリア・ニュージーランド・イギリスからなるファイブ・アイズ諸国もチャットコントロール法を支持しているとの指摘もあるため、大規模検閲システムがEU圏外に広がるきっかけになるかもしれません。
チャットコントロール法の制定を阻止するために活動する団体のFight Chat Controlは、EU圏内に住む人々が自国の政府担当者に連絡し、チャットコントロール法への反対を表明できるツールを公開しています。
Fight Chat Control - Protect Digital Privacy in the EU
https://fightchatcontrol.eu/#contact-tool
また、Privacy GuidesはEU圏内に住んでいない人々でも、SNSなどで積極的にチャットコントロール法について話し合うことで、その危険性や反対運動について周知することができると主張。「この戦いには皆様のご協力が必要です。民主主義、プライバシー、そしてあらゆる人権を守るために、この戦いに負けるわけにはいきません」とPrivacy Guidesは呼びかけました。
