「担当者は今、レストランで食事中です」…人命がかかった暴動が起きても“無視”を決め込んだ、Facebookの“呆れた言い訳”《儲からない市場は放置？》
〈《元幹部が告発》ウイグル人やチベット支援者のサイトを“テロ関連”として削除…アメリカ政府に隠し通した、Facebook経営陣による「中国へのヤバすぎる特別対応」とは〉から続く
「無責任さが多くの人の死を招いた」――。Facebook（現Meta）の元公共政策担当幹部サラ・ウィン・ウィリアムズ氏は、ミャンマーで起きた惨劇をそう振り返る。
【写真】この記事の写真を見る（2枚）
2014年、ミャンマーでは“Facebook＝インターネット”という独占状態の中、ヘイトスピーチや捏造されたレイプ疑惑が拡散し、死者を伴う暴動に発展していたのだ。しかし、Facebookの対応は絶望的だったという。巨大テック企業のなかで、いったいどのような動きがあったのか。
サラ・ウィン・ウィリアムズ氏の著書『ケアレス・ピープル 権力と欲望、失われた理想の物語』（すばる舎）の一部を抜粋して紹介する。
写真はイメージ ©︎GYRO_PHOTOGRAPHY/イメージマート
◆◆◆
ミャンマーで起きていた深刻な被害
私たちは社内で互いを不当に扱っているだけではなかった。社外でも――つまり世界の各地で――現に深刻な被害を与えていた。そして私は、会社の責任ある立場の人たちにそれを気にかけてもらおうと試みては失敗し続けていた。
たとえばミャンマーだ。このころ私はもう、Facebookの経営陣には善意も責任ある対応も期待してはいなかった。かつてはそんな時期もあったが、いまは本当に重要な事柄について何ら影響を及ぼせないとわかっている。「じっと耐えるべきとき」と「身を引くべきとき」の境目はぐらついていた。外から働きかけるより内側にいたほうがまだ何かを変えられるはず――私はそう自分に言い聞かせてきた。
だからこうして腐りきったシステムのなかにいて、ほんのわずかでも状況を改善するために、私にできることをやろうとしていた。このとき私がやろうとしていたのは、とても単純なことだった。人権の専門家を雇って、ミャンマー対応を担当してもらうこと。だが、それさえもうまくはいかなかった。
ミャンマーは、Facebookがどれほど破壊的な害をもたらしうるかを端的に示す一例だ。その実態を理解し、私が専門家の一人すら雇えなかった事情を知ってもらうには、少し時間を巻き戻す必要がある。私が4年前にミャンマーを訪れて以降、現地の状況は悪化の一途をたどっていた。そしてFacebookは、その悪化の過程で大きな役割を果たした。
無責任さが死を招いた
ミャンマーは、マークが描いたInternet.orgの夢がある意味で実現した唯一の国だった。私が2013年に現地を訪れた当時、インターネットは存在していないも同然だったが、その後、デスクトップ端末の時代を完全に飛ばして一気にモバイル端末の時代に移行した。しかも、携帯電話を持つほぼすべての人にとって、Facebookは“インターネットそのもの”になった。Facebookは現地の通信事業者と提携し、携帯端末にFacebookをプリインストールさせた。多くの料金プランで、Facebookの利用時間は通信量にカウントされなかった。
つまりミャンマーでは、インターネットを使うことは、Facebookを使うことと同義だ。それゆえに、ほぼ全員がFacebookを利用する社会でどれほど深刻な被害が生じうるかを、ほかのどの地域より如実に浮かび上がらせたのだ。ミャンマーで起きたことを私なりに言葉にするなら、“無責任さが多くの人の死を招いた”だろう。Facebookの経営陣は、自社のプラットフォームがミャンマー国内の緊張を煽り、ただでさえ不安定でおそろしい政治状況をさらに悪化させているのを目の当たりにしても、一貫して……そう、一貫して何もしなかった。
ロヒンギャを狙ったヘイトスピーチの拡散
事態の深刻さが初めて垣間見えたのは、私が政権幹部と面会した翌年、2014年だった。同年4月、私を含む政策チームの数名は、ミャンマー国内で激しいヘイトスピーチが拡散されているという情報を耳にした。その大半は、イスラム教徒の少数民族であるロヒンギャを標的にしたものだ。暴徒がモスクに放火する事件も起きていた。
私たちはヘイトスピーチの削除を担当するコンテンツ運用チームに対策を強化できないかと尋ねたが、答えは「ノー」だった。つい最近、ビルマ人の契約社員を新しく雇ったばかりで、対応はすでに万全だからという。Facebookのコンテンツ政策責任者はこう断言した。「ミャンマー担当者には対応の余力が十分にあることを確認しています」。さらに詳しい報告を求めると、処理待ちになっているヘイトスピーチの通報はわずか4、5件しかないという内訳が示された。取るに足りない件数だ。
このやりとりから数カ月後、Facebookの投稿をきっかけに暴動が発生し、2014年7月4日、政権はFacebookを遮断した。問題の投稿は、「茶店の店主であるイスラム教徒の男に仏教徒の女性がレイプされた」というものだった。かなりあとになって出た国際連合の報告書は、この話は捏造だったと結論づけた。
しかし、この投稿は“ビルマのビン・ラディン”とも呼ばれる仏僧アシン・ウィラトゥによってシェアされたことで、一気に拡散された。ウィラトゥは過去に宗教的憎悪を煽った罪で投獄された経歴があり、このころにはFacebookを武器として使いこなすコツをつかみ始めていた。（たしかに、“仏僧”という言葉から“テロリスト”をイメージする人はあまりいないだろう。しかし、ミャンマーでは、多数派である仏教徒が何十年にもわたってロヒンギャのイスラム教徒を迫害してきたという現実がある。）
削除判断を下せなかったFacebook
その後、政権の指導部がレイプ疑惑に関するウィラトゥの投稿の削除を要請していると伝えるメールが私に届いた。現実に暴動が発生し、仏教徒の暴徒がイスラム教徒の商店を襲撃するなどして死者まで出ている状況を踏まえれば、それらの投稿がFacebookの規定に違反しているのは明らかと見える。ところが、ダブリンに拠点を置くコンテンツ運用チームは削除を渋った。担当者は規定違反ではないと考えていた。ただし、ビルマ語ができる人材が見つからず、Google翻訳もビルマ語に対応していないため、断定はできないという。
そこで私は、より上位の担当者を巻きこむことにした。その人は、数カ月前に雇い入れたばかりのビルマ人契約社員――ダブリン在住――に連絡し、投稿の内容を確認させると言った。しかし、それきり返事がないまま5時間が過ぎた。
「どれくらい時間がかかりそうですか」と私は再度問い合わせた。ミャンマーの通りでは暴動が続いている。一刻も早くその投稿を削除しなくてはならない。
「残念ながらわかりません」と上位の担当者は答えた。
「ビルマ人契約社員はいまオフラインなんです。Facebookでメッセージを送っておきました。気づいて返信してくれることを願うしかありません」
「電話番号はわかりますか」私はそう返信した。
「緊急事態なので」
担当者が電話したところ、ビルマ人契約社員はレストランで食事中だった。15分後に帰宅して「パソコンで確認する」という返事が届いた。自宅で投稿を精査し、削除対象かどうか判断するという。それからさらに2時間近くが過ぎたころ、上位担当者は「契約社員が仕事用のノートパソコンを持っていない」と報告してきた。そして自分自身も外出中なので「帰宅してから対応する」と言った。私は責任を感じると同時に無力感に打ちのめされた。
「いつになったら対応できます？ 一刻を争う事態です」と私は催促した。
投稿は引き金、問われたのは運営体制
これに対して返信はなかった。私はカリフォルニア本社の別の誰かに削除してもらう手はずを整えたが、そのためには問題の投稿のリンクが必要だ。ダブリンの上位担当者からようやくリンクが届いて、三つの投稿が削除された。削除からわずか4分後、現地の時刻は午前4時半だというのに、ミャンマーでのFacebook遮断は解除された。
人の命がかかっている状況で、Facebookがこんな仕組みに頼っていていいわけがない。投稿が引き金になって街で暴動が起きているというのに、アイルランドのどこかで食事に出かけていて、会社支給のノートパソコンがどこにあるかさえわからない契約社員に判断を一任するなんて、許されていいわけがない。
この一件と過去数カ月の経験を踏まえ、私は経営陣とコンテンツ運用チームに対し、ミャンマー対応を根本から見直すべきだと提案した。何が失敗だったのかを解明し、是正しなくてはならない。しかし、この提案は歓迎されなかった。
コンテンツ運用チームの責任者は、メールでこう反論した――コンテンツ運用チームは〈やるべき対応を正確にこなしました。問題の投稿は表面上、規定に違反していませんでした……三つの投稿はいずれも、事実をそのまま伝え、政治的行動を呼びかけるものであり、ヘイトスピーチではありませんでした。〉
そういう問題ではないと私は反論した。
失敗を認めなかった経営陣
Facebookの規定には「現実に身体的危害が及ぶ明白な危険、または公共の安全に対する直接的な脅威があると判断される場合には、コンテンツを削除する」と明確に書かれている。暴動のような、現実世界での暴力を引き起こしている以上、規定違反であることは明らかだ。
彼らは「ミャンマーで起きていることだから」と軽視してすませられると思っているようだが、独裁者の選挙と同じで、世界のどこかで一度許してしまえば、積極的に防ぐ手立てを講じないかぎり、同じパターンが別のどこかでかならず繰り返される。しかし、私の主張は無視された。コンテンツ政策責任者は追加の研修を行うことさえ拒否し、今回の対応に不備はなかったと言い張った。それどころか、「今回の件でコンテンツ運用チームは正しい対応をしたという簡単なメモを送り、チームメンバーを安心させるべきだ」とさえ言い出した。そして経営陣に対して次のように報告した。
「コンテンツ運用チームの責任について明確にしておきたいと考えます……チームはなすべきことを正確に遂行しました。問題のコンテンツは一見してポリシー違反ではありませんでした」
後回しにされたミャンマー対応
私は同意できなかった。2014年当時のミャンマーは、ヘイトスピーチやフェイクニュース、集団暴行に翻弄される一方で、民主化を模索する途上にあった。まさに一触即発の状況だったのだ。そんな国を、ほかの国と同じように扱えるはずがない。何百万という人々が“Facebook＝インターネット”と考えている国で、Facebookの運用チームにはビルマ語を話せる人間がたった一人しかいなかった。それだけ――たった一人だ。中国向けには何百人も配置しているというのに、ダブリンに住む、正規の社員でさえないたった一人の男性が、ミャンマー全土を混乱に巻きこむようなヘイトスピーチへの対応を一手に引き受けているのだ。
コンテンツ運用チームを労うメモは、結局、送信された。
ミャンマーで違反のおそれありと報告されているコンテンツについて実態を調査する気がコンテンツ運用チームにないなら、私のチームでやるしかない。わずか数週間で、ミャンマーにおけるFacebookの運営がいかにお粗末であるかが明らかになった。たとえば、Facebookコミュニティ規定のビルマ語版がないため、何が許され、何が禁止されているのかを利用者が知ること自体が不可能だ。
サイトの基本設計――〈いいね！〉ボタンや、問題のあるコンテンツを報告するのに必要な〈通報する〉ボタン――もビルマ語に対応していない（または文字化けする）。そして何より衝撃だったのは、Facebookそのものがビルマ語に対応していないことだ。その気になればいつでもビルマ語化できたはずだろうに……優先度が低いという理由で放置されていた。
「技術的にはすぐ解決できる」
さらに言えば、ミャンマーは世界でも数少ないUnicodeを採用していない国の一つでもある。Unicodeとは、コンピュータ上で文字を表現するための国際的な標準規格だ。これを採用していないので、ミャンマー国内にいる利用者であれば、Facebookにビルマ語で投稿でき、それを判読可能な文字として読むこともできるが、ミャンマー国外からは文字化けした判読不能な記号の羅列になってしまう。
読めもしないコンテンツをどうやってモデレーションしろと？ 私たちはFacebookの国際化担当責任者に相談した。その責任者によると、ビルマ語に関するこの問題について、自分もエンジニアリング・チームも十分に認識しており、しかも技術的にはすぐ解決できるそうだ。
実際、1年前に取り組もうと提案したのだが、誰も耳を貸さなかったらしい。優先順位を与え、エンジニアを割り当ててくれさえすれば、すぐにでも取りかかれるという。ミャンマーは人口5000万を超える巨大な潜在市場だ。暴動から数週間後、私はエリオットやハビ（編集部注：ともに当時の同社幹部）、コンテンツ政策責任者らと会い、懸命に訴えた。あの暴動を見れば、Facebookがミャンマーに致命的な影響を及ぼしかねないことは明らかだ。ヘイトスピーチをもっと的確にモニターしなくてはならない。そのためにはUnicode対応を急ぐ必要がある。
しかし、みな無関心だった。「ぜひ優先事項として進めたいところだが……ほかにもやるべきことが山積しているのに、そちらを優先すべき理由がない」そうだ。そのくせ、中国の検閲を円滑に進めるためのツール開発に高給取りのエンジニアを集めた大規模なチームを立ち上げても、誰からも文句は出ない。
それからも、私とチームがミャンマーに関して何か要望するたび、同じ決まり文句を聞かされることになった。
「通報がない」の裏にあった真実
自社のプラットフォーム上で、そもそもビルマ語をきちんと扱えないという馬鹿げた状況を前にして、私のチームはコミュニティ規定と、問題のあるコンテンツを通報する手順をまとめたガイドを翻訳し、配布用に印刷することにした。いわば取扱説明書だ。1776年に時が戻ったかのようだった――トマス・ペインが『コモン・センス』という小冊子を配って大英帝国からの独立を訴えたように、紙の冊子を作って配り、利用者を啓蒙しようとしたのだ。広報チームに配布の協力を求めたが、断られた。
「ミャンマーは東南アジアにおける優先国ではないため、現地に投入できるPRリソースがありません」
そして2015年6月、決定打となる事実が明らかになる。市民団体や活動家がFacebook上の不適切なコンテンツを通報するのを手伝っていたとき、私のチームはあることに気づいた。現地の利用者は、通報機能がない非公式のFacebookアプリを使っている人が大半のようなのだ。市民団体は以前からそう伝えてきていたが、あまりに現実離れした話だから、私たちは信じていなかった。
ところがよく調べてみると、ミャンマーではいまだに公式アプリがダウンロードできない状態にあり、その結果、友人同士のシェアや携帯電話販売店でのインストールを通じて、非公式版が広く出回っているとわかった。これでは、たとえ言語やUnicodeの問題を解決したところで、ヘイトスピーチや人種差別的な投稿、暴力を扇動するコンテンツを通報するのは不可能だろう。
政権や市民団体、活動家、そのほかの関係者から、フェイクニュースやアカウントの乗っ取り、人種差別や暴力扇動、脅迫を含むコンテンツが野放しになっているという苦情が絶えなかった理由に、これで説明がついた。規定違反の投稿を見つけても通報する手段がそもそもないのだ。まれに通報できた場合でも、何らの対応も取られない。ボタンをタップしても何も起きなかったのだ。また、2014年を通じて、ミャンマーの利用者からは問題のあるコンテンツの通報が届いていないとコンテンツ運用チームが自信満々で言い続けていた理由にも説明がつく。通報が届かないのは当然だ。利用者が使っていたアプリに、そんな機能はもともと備わっていないのだから。
（サラ・ウィン・ウィリアムズ／Webオリジナル（外部転載））
