メッセージングアプリのTelegramでは、2024年8月に創設者兼CEOのパーヴェル・ドゥーロフ氏がTelegram上での麻薬密売・マネーロンダリング・児童ポルノなどの犯罪行為への共犯の容疑で逮捕・起訴されています。その後、Telegramでは有害コンテンツに対する大規模な取り締まりを行っており、こうした取り締まりの結果、記事作成時点で2024年中に1550万以上のグループとチャンネルを削除したことを報告しています。

Telegram: Contact @durov

https://t.me/durov/383



Telegram Moderation Overview

https://telegram.org/moderation

AI helps Telegram remove 15 million suspect groups and channels in 2024 | TechCrunch

https://techcrunch.com/2024/12/13/ai-helps-telegram-remove-15-million-suspect-groups-and-channels-in-2024/

ドゥーロフ氏によると、Telegramでは過去数年間にわたり、モデレーションチームが有害コンテンツを発信するグループやチャンネルの削除を進めているとのこと。Telegramのモデレーションチームはユーザーからの報告のほか、AIツールや自動検出システムを用いて1カ月あたり約100万のグループやチャンネルを削除してきたそうです。しかし、こうした作業の多くは秘密裏に行われており、メディアは長い間更新されていないウェブサイトから得た古い情報を発信していました。その結果、多くのユーザーが「Telegramは十分なモデレーションを行っていない」とTelegramを批判する状況に陥っていました。

そのため、Telegramではモデレーションの現状を紹介する公式ページを作成しています。以下のページではTelegramのモデレーションチームによるグループとチャンネルの削除状況について閲覧できます。

Telegram Moderation Overview

https://telegram.org/moderation

Telegramでは、暴力の扇動や児童虐待資料の共有、違法商品の取引など、利用規約に違反するグループやチャンネルを連日数万件ブロックしています。2015年以降、モデレーションチームではユーザーレポートと機械学習を活用したプロアクティブな監視が行われているほか、2024年初頭には最先端のAIモデレーションツールを導入。2024年中にブロックしたグループとチャンネルの総数は記事作成時点で1557万8753件に上ります。



また、Telegramは児童性的虐待資料(CSAM)に対する厳しいポリシーを導入しており、2018年以降、Telegram上で共有された画像は過去10年間でモデレーターによってブロックされたCSAMのハッシュデータベースと自動的に照合されます。2024年には、Internet Watch Foudationなどの組織からの情報を利用して、このデータベースの拡張を実施しています。この結果、2024年中には70万7576件のCSAM関連のグループとチャンネルをブロックすることに成功しました。



さらに、2022年以降、TelegramはGlobal Center for Combating Extremist Ideologyなどの組織と提携して、暴力やテロリズムに関するコンテンツの削除への取り組みを強化しています。2024年中にTelegramは、13万119件のテロリスト関連のコミュニティをブロックしています。