Twitterのツイート規制方針やイーロン・マスク指揮下での最初の2週間の激動についてTwitterのトラスト＆セキュリティ部門元責任者が回答
イーロン・マスク氏に代替わりする前からTwitterで有害な情報と戦うためのチームを率いていたトラスト＆セキュリティ部門の元責任者ヨエル・ロス氏が、マスク氏がCEOに就任する前と後のTwitterについて紹介しました。
Banning Donald Trump and meeting Elon Musk: Former Twitter safety chief gives inside account - Poynter
ロス氏はTwitterのコンテンツモデレーションやセキュリティへの取り組みを担当する部門を率い、約220人の従業員と共に有害な誤情報と戦うための戦略を打ち立てた人物です。ロス氏はマスク氏がCEOに就任した数週間後に会社を去っており、その後はカリフォルニア大学バークレー校ゴールドマン公共政策大学院のテクノロジー政策研究員として活動しています。
ロス氏はソウルで開催されたファクトチェック・サミットの「GlobalFact 10」に登壇。政治にまつわる情報のファクトチェックを行うPolitiFactのアーロン・シャロックマン氏と共に、Twitterが誤報や偽情報との戦いでどのような成果を上げているかについて、数百人の観客を相手に語りました。
アーロン・シャロックマン氏(以下、シャロックマン)：
トラスト＆セキュリティ部門は200人ほどいたと聞いています。あなたには直属の部下が12人いたそうですが、その人たちはどうなりましたか？
ヨエル・ロス氏(以下、ロス)：
ルールやポリシーを作成する人たちは全体のごく一部で、最前線でコンテンツのモデレーションを行う請負会社の人も含んでいます。私に直接、あるいは間接的に報告した200人のうち、まだ会社に残っているのはごく少数です。コアとなるチームに至っては1人しか残っていません。人員削減はかなり厳しいものでした。
シャロックマン：
現在のツイッターのトラスト＆セキュリティに関するプログラムや活動はどのようなものですか？
ロス：
こんなことを言うのは心苦しいですが、存在しません。チームが根絶やしにされ、短期間で取り組みが後退するのを目の当たりにするのは、本当に驚くべきことでした。
シャロックマン：
Twitterはニュース速報を提供するという点で優れていたと思いますが、最近はその傾向も薄れているように思えます。
ロス：
ジャック・ドーシー氏がCEOだったときにやったことの一つは、Twitterを「ソーシャルネットワーキング」のカテゴリーから「ニュース」のカテゴリーに移したことでした。それは正しく、Twitterはニュースを投稿し、ニュースの拡散を助ける人々のエコシステムの上に成り立っているのです。しかし、そのエコシステムの多くが急速に損なわれているため、Twitterではほとんどニュースが報じられなくなりました。世界におけるTwitterの役割は、過去15年間とは根本的に異なっていると思います。
シャロックマン：
2022年10月27日にマスク氏がTwitter買収を完了し、その翌日には最高経営責任者や政策責任者など重要人物の解雇が相次ぎました。あなたはマスク氏から支持されていましたが、あなたは2週間でTwitterを辞めています。マスク氏のCEO就任から辞めるまでの13日間はどのようなものでしたか？
ロス氏：
旋風という言葉では言い表せません。さまざまなセキュリティー上の手続きから、自分の上司が誰なのかを把握することまで、いろんなことが起こりました。イーロン・マスクは私の上司なのか？もしそうなら、それはどういう意味なのか？彼は私に何をしてほしいのか？私は彼の望むことをしてもいいのだろうか？こうしたことを、何千人もの従業員が考えるのです。
Twitterが今後どうなっていくのかも分からない曖昧な状況の中、従業員は人種差別的なコンテンツを大量に投稿する荒らしや、アメリカやブラジルで行われた大規模な選挙など、あらゆる課題に対処しなければなりませんでした。
私自身、マスク氏との最初の会話で興味深い経験をしたことを覚えています。マスク氏は当時「Twitterをブラジルの選挙で起こりうる暴力の原因にはしたくない」とはっきり言ったことで私は完全に意表を突かれ、マスク氏が誤報やセキュリティ信頼や安全に対して私と同じ考えを持っていることが分かりました。マスク氏が私の上司足る存在だったことは間違いありません。
シャロックマン：
ドナルド・トランプ氏のアカウントをTwitterが凍結したことについて話してください。Twitterにはトランプ氏案件の作戦会議室のようなものがあったのでしょうか？凍結は遅すぎたという意見もありますが、前例のないような状況でどのようなプロセスがあったのか興味があります。
ロス氏：
それまでトランプ氏を禁止しなかったのは財務的な理由によるものだという臆測もありますが、私の経験から言わせてもらうとそうではありません。トランプ氏にとってツイッターはニュースや時事問題が起こるプラットフォームであり、コンテンツにアクセスすることに公共の利益があるというビジョンと、影響力のある人物が公の場で発言することで大きな害を及ぼしかねないという現実との間で板挟みになっていたはずです。そしてTwitterもTwitterで、公共の利益というビジョンのためにコンテンツを保護したいという願望と、被害を軽減したいという願望を両立させようとして立ち往生していたのでした。
Twitterにとってこの問題を解決するのは実に難しいことでした。トランプ氏の大統領就任後から数年間、Twitterはトランプ氏のコンテンツをほとんど規制していません。2018年か19年にTwitterは公益ポリシーを導入して、有害なコンテンツに対し、削除することはないものの警告メッセージを表示するという対応を取りました。しかし、これは実質的に害のあるコンテンツを放置したも同じです。率直に言って、Twitterは怖かったんだと思います。
2020年5月、トランプ氏がカリフォルニア州のギャビン・ニューサム知事を攻撃する一連のメッセージを投稿しましたが、Twitterはこのとき初めてトランプ氏のツイートにファクトチェックのラベルを貼りました。これに対してトランプ氏は記者会見を開き、私が掲載されたニューヨーク・ポストの表紙を掲げて非難し、ソーシャルメディアの検閲を断罪する大統領令に署名しました。この最初のファクトチェックこそが、Twitterのせきを切ったようなものだと言えます。
2020年の選挙の日から数えて、私たちはトランプ氏のアカウントから140件以上の投稿をモデレートしました。そして、2021年1月6日にトランプ氏のアカウントを制限し、最終的に8日に追放するという決定に至っています。この節度あるアプローチを決定するのには長い時間を要し、苦痛を伴うものであったということを共有します。
シャロックマン：
貴社のコンテンツモデレーション方針について少しお聞きしたいのですが、ファクトチェッカーの活用についてどのようにお考えですか？最終的に、あなたはファクトチェッカーとしてAP通信を引き入れ、マスク氏に買収されるまではAFPを引き入れていましたね。
ロス：
いくつかの要因があったと思います。まず1つ目は金銭的な問題です。ソーシャルメディアといえば、一般的にはFacebook、あるいはYouTubeなどを指しますが、これらの企業の財務実態は他の業界とは大きく異なります。Twitterはおそらく小規模企業の中では最大手であり、特にジャーナリストや政治家に対する影響力という点では重要な存在です。しかし、TwitterにはMetaやGoogleのようなリソースはありませんでした。そのため、2020年に私たちが誤情報に対処するための戦略を策定し始めたとき、Facebookと同じ方法で実施することは不可能でした。会社として現実的ではなかったのです。予算を確保できませんでした。
財務的な問題以外に考慮しなければならなかったのは、「誰がこのような決定を下す責任があるのか」ということでした。Facebookの意思決定構造について私がいつも興味深いと思っているのは、投稿に誤報やファクトチェックのラベルを貼るタイミングについて、多くの決定がファクトチェッカーによってなされていることです。Metaはプラットフォームとして非常に快適な立場にあり、「ラベル付けは私たちの決定ではなく、私たちはそれを受け入れているだけ」と言って責任から逃れることができます。
この部屋にはMetaの関係者もいるでしょうから言っておきますが、私はMetaの決定を攻撃しているわけではありません。ただ、企業の立場から見てどのような方法が望ましいのか、お金をかける価値があるのかといった理由は注目に値すると思います。TwitterはMetaとは異なるスタンスを取りました。私たちはコンテンツモデレーションの決定を「自分たちのもの」にしたかったのです。もし私たちが何かに介入し、ラベルを貼ったり、削除したりするのであれば、私たちがその決定の責任者になるのです。もし人々がその決定を批判するのであれば、Twitterを批判すればいい話です。
その結果、私たちはいくつかの決定に対して多くの批判を浴びましたが、やはり他の人たちにその責任を転嫁することは適切ではないと感じました。
シャロックマン：
この3日間、サミットでの大きなトピックのひとつはオンライン・ハラスメントでした。ファクトチェッカーやジャーナリスト、そしてあなたも含め、すべての人がネット上での脅迫や嫌がらせの増加に直面しています。マスク氏はさておき、プラットフォームができることのうち、実際に行われていないようなことはあるのでしょうか？
ロス：
そんなことはないと願っています。ソーシャルメディアの原罪はハラスメントに対処できなかったことだと思います。私たちは、嫌がらせや脅迫を行い、人々を黙らせる暴徒の力を目の当たりにしたゲーマーゲートまでさかのぼり、この課題について認知してきました。コンテンツモデレーションやソーシャルメディアポリシーにおける最も重大な失敗のひとつはハラスメントに対処できなかったことだと考えていますが、ハラスメントに対処するのは本当に難しいことです。
あなたがソーシャルメディア企業でポリシーを書いていて、そのポリシーが暴言に関するものだったとしましょう。意地悪なことを言う人、侮辱する人についてのポリシーを定めていると思ってください。仮に、あるアカウントが同一人物を10回侮辱する投稿をしたとします。それは明らかに一線を超えているように思えるので、そのアカウントはBANされるでしょう。これは、今日のソーシャルメディアポリシーによく似ています。
しかし、1つのアカウントが10個の投稿をするのではなく、10個のアカウントがそれぞれ1つの投稿をすると想像してみてください。そこで何をすべきか、決定の基準となるものは何でしょう？企業は行動を起こしてもいいのでしょうか？検閲にならないでしょうか？なぜ企業がハラスメントで苦労してきたかというと、失敗を正当化しているのではなく、問題のある投稿が組織的なハラスメントなのか、それとも誰かが意地悪を言っただけなのかを明確な証拠で立証するのが難しいからです。
ただし、この流れは少しずつ変わり始めています。私が最も期待しているポリシーの一つがMetaに導入されたもので、基本的には、ユーザーが組織的なハラスメントを行うためにMetaのツールを使った場合にMetaが行動を起こすというものになります。個人ではなく組織的ないやがらせを解決するという問題は、ソーシャルメディアが今後も投資を続けてほしい分野の一つだと考えています。
