by Sam Churchill

世界最大のムービー共有プラットフォームであるYouTubeには、嫌がらせやヘイトスピーチ、陰謀説、無差別テロ映像など、規約に違反した有害コンテンツがアップロードされることがあります。YouTube側はこうした有害コンテンツを排除しようと努めているものの、なかなか有害コンテンツの全てを排除できていないのが現状です。そんな中、Googleのサンダー・ピチャイCEOがテレビのインタビューに対して「YouTubeの規模が大きすぎるため、有害なコンテンツを100%排除することはもはや不可能だ」と語ったことが報じられています。

Google CEO on fixing YouTube's hate and harassment problem

https://edition.cnn.com/videos/business/2019/06/16/google-ceo-sundar-pichai-on-fixing-youtubes-hate-and-harassment-problem.cnn-business/video/playlists/google-ceo-sundar-pichai/

Google CEO Sundar Pichai: YouTube is too big to fix

https://www.cnbc.com/2019/06/17/google-ceo-sundar-pichai-youtube-is-too-big-to-fix.html

YouTubeには、サンディフック小学校銃乱射事件の映像や白人至上主義者による差別的な内容のムービーなど、規約に違反した不適切なコンテンツが日々アップロードされています。YouTube側もこれを取り締まろうと積極的に規約を変更したり、不適切なムービーを削除したり、規約に違反するアカウントをBANしたりしました。

YouTubeがまたもやコンテンツガイドラインを変更して至上主義者によるコンテンツ&チャンネルを削除 - GIGAZINE



また、YouTubeはこうした不適切なコンテンツを探し出すために、運営スタッフだけではなくアルゴリズムも使っています。ただし、アルゴリズムの精度は有害なコンテンツを100%見分けるというほどのものではなく、まったく有害ではないコンテンツやユーザーも排除してしまって問題となることもありました。

フェミニストをワニに食べさせて殺害するゲームのプレイムービー配信者がYouTubeからBANされ、その後YouTubeが「BANは間違い」と認める - GIGAZINE



アメリカのテレビ局・CNNはピチャイCEOへのインタビューの中で、YouTubeでは有害なコンテンツをフィルタリングして削除するのに十分な人員がいないのかを質問しました。

この質問に対して、ピチャイCEOは「人間と機械を組み合わせて使うことで、(効率は)はるかに良くなりました。そのおかげで99%の確率で不適切なコンテンツを排除できるようになりましたが、それでもなお1%は残ります。我々の目標は、不適切なコンテンツを見逃してしまう確率を1%よりもずっと少なくすることです」と答えました。



by Nguyen Hung Vu

さらにピチャイCEOは「Googleはおそらく不適切なコンテンツを100%見つけ出すことはできません」と述べ、「どんな大規模なシステムでも不適切なコンテンツを完全に排除することは困難です。例えばクレジットカードのシステムを考えてみても、不正行為は存在するものです。YouTubeの規模であれば、パーセンテージを考慮しなければなりません」と回答。

「私たちは著しい進歩を遂げることができると確信しています。きっと執行力は向上します。これまでコンテンツが正しく認識されなかったと認識していますが、いくつかの見落としに気づいたので優先順位を変えました」とピチャイCEOは語り、YouTubeの規模がもはや完全な管理が不可能なほど大規模なものとなってしまっても、AIを利用したコンテンツフィルターの精度は上げていくことを約束しました。

CNNがピチャイCEOに行ったインタビューは以下から見ることができます。

Google CEO on fixing YouTube's hate and harassment problem