インターネット上にはポルノや暴力的なコンテンツが無数に存在します。そんなコンテンツに日夜目を通し、不適切なものを削除するコンテンツ・モデレーターという仕事に迫るドキュメンタリームービー「The Moderators」が公開されています。

Field of Vision - The Moderators on Vimeo

コンテンツ・モデレーターは世界中のソーシャルメディアサイトやモバイルアプリ上から、15万個超のコンテンツを削除しています。この数は同じ期間にGoogleが検閲して削除しているコンテンツ数の2倍、Facebookの9倍という驚くべき数です。



「この人は裸ではありません。ただし、勃起しているのがわかります。ペニスが目に見えるので、ヌードではありませんが削除対象となります」と語るのは、インドでモデレーターの育成を行う教育担当者。



「The Moderators」



「みなさんFacebookアカウントを持っていると思います。そして、コメントや写真を投稿していると思います。それでは、Facebook上でポルノ写真を見たことがありますか?自身のFacebookアカウントを開いて確認してみてください。なぜFacebook上ではそういったコンテンツが見られないのでしょうか?」



「それはモデレーターがいるからです」



「モデレーターとして、我々はインターネット上のアクティビティに目を光らせておく必要があります」



「もしもインターネット上にルールも規制もなければ、そこはカオスになるでしょう。よって、我々が自分の目で全ての場所を確認する必要があるわけです」



「私を良いモデレーターにしているのは、『オーマイガー』などと反応しない点だと思います。なぜなら、インターネット上に存在するのはただの写真だからです」



「みなさんはコンテンツ・モデレーションについてどれくらい知っていますか?簡単に言うと、映画産業ではセンシティブなコンテンツをベースに年齢制限を設ける必要がありますが、インターネットのコンテンツ・モデレーションはこれと似たようなものです」



「異なるコンテンツタイプごとに分けて、一般のユーザーには害になるようなものはブロックすることになります」



「基本的にみなさんがやるべきことは、何が良くて何が排除されるべきかをしっかり理解することです」



「そのためには我々のクライアントが提示するルールや規則、ガイドラインをしっかり知る必要があります」



「みなさんは何が良いものかをしっかり理解し、判断できるようになる必要があります。ひとつの間違いさえ犯してはいけません」



さらに、実際の業務の中でポルノ写真かどうかを判断しているシーン。ポルノ写真を発見すると、それをアップしているユーザーのプロフィールとIDを確認し、クライアントに報告する必要がある模様。





「我々は5つのデートサイトをクライアントとして持っています。実際にアカウントを作ってみましょう。このデートサイトがどのようなものなのかを実際に使って体感してみましょう」



「もし、モデレーターが存在しなければ、今日のデート産業は繁栄していないでしょう」



「チームのメインの仕事は本物と偽物のユーザーを見つけ出すことです。本物のユーザーは全体の30〜40%ほどで、残りの60〜70%は偽物のユーザーです」



「私はあなたに会いたい、一緒に居たいの。だから航空券を用意してほしいの」という甘い台詞をささやいてくるユーザーも。



また、モデレーターが扱うコンテンツは世界中のユーザーがアップするものなので、異なる文化背景があり「その判断は非常に難しい」とのこと。



「例えばインドの場合、いまだにデートはタブーとされています。よって、インド人がデートサイトにビキニ姿の写真が投稿されている様子を見るのと、他の国の人々が見るのとではまるで違います」



実際に判断の難しい写真を例に、どこがアウトなのかを解説するシーンも。







ムービーで紹介されたインドのモデレーション企業では、なんと1時間で2000枚もの写真をチェックするそうです。なお、その中の20%が下品なものだそうです。



「現代ではほとんど全ての人々がインターネットにアクセス可能です。もしもそのインターネットがコントロールされていなかったとしたら、インターネットはポルノ工場になってしまいます」



実際にインドのモデレーション企業で働いている人の数は20人程度。1日で100万枚もの写真を処理しているとのこと。



「モデレーションは自動化に頼ることはできません。システムでは時々エラーを起こしてしまうので、人間が必要であると確信しています。私の考えでは、モデレーションは現在のところ人間なしでは不可能であると思います」