by Szabo Viktor

YouTubeは「我々が注力している分野の中で最も重要なのは未成年者とその家族を保護すること」と記し、未成年者や家族を保護するために行っている取り組みについて公式ブログ上で説明しています。

Official YouTube Blog: An update on our efforts to protect minors and families

https://youtube.googleblog.com/2019/06/an-update-on-our-efforts-to-protect.html

YouTubeといえば世界最大級のムービープラットフォームですが、「目隠しチャレンジ」や「Tide Podチャレンジ」など危険な流行を生み出してきたサービスでもあります。そんなYouTubeが2019年2月末に「YouTubeが子どもの性的搾取を促進している」という批判にさらされ、いくつかの企業はYouTubeへの広告掲載を控えるという事態にまで発展しました。

「YouTubeが子どもの性的搾取を促進している」と批判の的に、ディズニーやEpic GamesがYouTubeへの広告を引き上げる事態に - GIGAZINE



これを受けてYouTubeは子ども向けコンテンツのコメント機能を無効にし、一部の悪質なムービーやチャンネルを削除するという対策を行いました。

YouTubeが子ども向けコンテンツのコメント機能を無効に、一部ムービーは削除＆悪質なチャンネルは閉鎖 - GIGAZINE



他にも、YouTubeは子どもの性的搾取につながるようなコンテンツを削除するための技術「CSAI Match」などを導入しています。

YouTube CSAI Match



YouTubeは「2015年までYouTubeは13歳未満の子ども向けのサービスではなかったため、子どもたちが安全に自分の興味を探求し、保護者がより多くの権限を持てるようにとYouTube Kidsをリリースしました。13歳未満の子どものアカウントは、発見されればすぐに削除されます。実際、このプロセスを通して毎週数千ものアカウントを削除しています」と記し、子ども向けのサービスとしてYouTube KidsをYouTubeとは別のアプリケーションとして分離したこと、そして13歳未満の子どもが使用していると思われるアカウントの削除がうまく機能していることをアピールしています。

そして、未成年者の搾取を禁止し、危険行為や不適切行為を推奨するようなムービーを厳しく取り締まるために、コミュニティガイドラインの強化や違反警告システムの改定などを行ってきたと主張。

その結果、2019年第1四半期にYouTubeは「子どもの安全を脅かす危険がある」として80万本以上のムービーを削除したと報告しています。なお、削除されたムービーのほとんどは視聴回数が10回未満のうちに削除されたそうです。



by Szabo Viktor

YouTube上にアップロードされている未成年者向けのムービーの大多数は「我々のポリシーに違反していない」とのこと。しかし、子どもの安全を守るべく、YouTubeはこれまでよりもさらに慎重なアプローチを取っているそうで、「ここ数か月で行ってきたいくつかの変更」についても説明しています。

◆ライブ機能の制限

YouTubeは「明らかに保護者同伴ではない未成年者のライブストリーミング」を禁止するために、ライブストリーミングに関するポリシーを強化しました。このポリシーに準拠していないチャンネルは、ストリーミング配信が行えなくなる可能性があります。なお、YouTubeは未成年者だけで行っているライブストリーミングを効率的に検索・分類するために機械学習を用いたツールを用いていると明かしています。

◆オススメの削減

YouTubeはオススメ機能を向上させるために、「コミュニティガイドラインに違反することはないものの、それに近しいラインにあるコンテンツ」をオススメする回数を減らしています。「コミュニティガイドラインに違反することはないものの、それに近しいラインにあるコンテンツ」については、深刻な病気に対する偽の解決方法を訴えるムービーや、地球が平らであると主張するムービー、歴史的な出来事について虚偽の主張を行うムービーなど、「ユーザーの誤解を招く可能性のあるムービー」とYouTubeは説明しています。

なお、YouTubeは既にオススメ機能でピックアップされる回数が減ったムービーは「数千万本ある」と記しており、デマを拡散する恐れのあるムービーが徐々にユーザーの目につきにくくなっているとアピールしています。



by Hello I'm Nik