by StockSnap

GoogleがYouTube公式ブログでヘイトスピーチ対策の取り組みを公表し、わずか3カ月間でのべ10万件本以上のムービーを削除し、1万7000チャンネルを閉鎖してきたことを明らかにしました。

Official YouTube Blog: The Four Rs of Responsibility, Part 1: Removing harmful content

https://youtube.googleblog.com/2019/09/the-four-rs-of-responsibility-remove.html

Googleは以前から、規約やガイドラインを柔軟に変更することでYouTubeから不適切なコンテンツを排除してきました。例えば、2019年6月5日には未成年者を保護する目的で「未成年者だけでのライブ配信を禁止する」方針を打ち出し、その翌日の6月6日にはさらに「コミュニティガイドライン」を変更して差別的なムービーを一層厳しく取り締まることを決定しています。

YouTubeがまたもやコンテンツガイドラインを変更して至上主義者によるコンテンツ＆チャンネルを削除 - GIGAZINE



こうした取り組みの結果、2019年4〜6月の間にヘイトスピーチ対策で削除されたムービーはそれまでの5倍となる10万件を突破。同様に、ヘイトスピーチを繰り返していた1万7000チャンネルが閉鎖されました。また、2019年4〜6月に削除されたコメントは1〜3月の2倍となる合計5億件を記録しています。



しかし、こうした数字もYouTubeの取り組みのごく一部に過ぎません。Googleが発表した「コミュニティガイドライン施行レポート」によると、ヘイトスピーチを含んだ「悪意のある表現、嫌がらせ行為」などの理由により削除されたムービーやチャンネルが全体に占める割合は、それぞれたったの1.2％と0.4％だとのこと。



YouTubeがこれほど多数の不適切なコンテンツに対処できるのは、テクノロジーを駆使しているためです。事業者らで共有されている児童ポルノ画像やテロリスト募集ビデオのデジタルフィンガープリントを使用することで、これらの内容を含んだムービーなどを瞬時に検知し、アップロードされると同時に削除するといった対応を講じることが可能になっています。

また、機械学習技術により、ポリシーに違反しているとおぼしきコンテンツを自動的に発見して手動チェックに回すことで、違反しているかどうか微妙なコンテンツへの対応を効率化しています。その威力は絶大で、3カ月間で削除された900万本のムービーのうち87％がこのシステムにより検知されたものでした。

YouTubeでは、テクノロジーを大いに活用する一方で人の力による対策にも力を入れており、Googleでガイドライン違反のコンテンツの発見・確認・削除に従事しているスタッフの数は1万人以上にも及ぶとのこと。また、2018年1月には、ニュースやソーシャルメディアの監視を行う特別対策チーム「インテリジェンスデスク」を立ち上げて、不適切なコンテンツの早期発見に努めています。

ヘイトスピーチなどの不適切なコンテンツの「削除(Remove)」は、YouTubeが推進している「責任(Responsibility)の4R」の最初の1つだとのことで、Googleは今後、削除だけでなく「向上(Raise)」「奨励(Reward)」「低減(Reduce)」といった施策によりオープンなプラットフォームの維持に取り組んでいくとしています。