アルゴリズムがガセネタ掲載:Facebook「トレンド機能」の顛末

写真拡大

フェイスブックは、政治的バイアスがあるとして物議をかもしていた「トレンド」機能について、人間の編集者を解雇してアルゴリズムによる自動掲載を開始。しかしその途端に、虚偽の報道がトレンドのトップに表示される事態が発生した。

「アルゴリズムがガセネタ掲載:Facebook「トレンド機能」の顛末」の写真・リンク付きの記事はこちら

Facebookには、人気が急上昇しているトピックやハッシュタグをパーソナライズしながら表示する「トレンド(Trending)」機能がある。

フェイスブックは8月26日午後(米国時間)、このトレンドセクションに関与していた人間の編集者たちを全員解雇した。そして、彼らに取って代わって、Facebookでの人気話題だけに基づいてニュースをプロモートするアルゴリズムを稼働させた。

『ワシントン・ポスト』の報道によると、完全なアルゴリズム化が始まってから72時間と経たないうちに、虚偽の報道がトレンドのトップに躍り出た。内容は、保守系メディア『Fox News』の有名女性キャスターであるメギン・ケリーが、ヒラリー・クリントンを支持する「裏切り者」として『Fox News』を解雇されたというニュースだった(実際には解雇されていない)。

フェイスブックが人間の編集者を全員解雇した背景には、2016年5月、トレンドセクションには政治的バイアスが存在すると批判されたことがある。保守派が不利になるようにニュースを編集していると批判されたフェイスブックは、こうした批判に異を唱えていた。

政治的バイアスをめぐる非難の発端は、不満を抱えたトレンドセクションの元編集者だった。その人物は、トレンド内部で訓練に使用されていた教材を『Gizmodo』にリークしたのだ。『Gizmodo』の記事によれば、人間の編集者たちは派遣労働者で、解雇も多く使い捨て状態だったが(彼らはトレンドのアルゴリズムを訓練するためにそこにいた)、それでも彼らは、あからさまな嘘を排除するべく、品質管理に従事していたという。

フェイスブックは、人間の編集者の排除に早期に踏み切ったのは「Facebookコミュニティから得たフィードバック」に対する直接的な反応だと述べている。フェイスブックは、アルゴリズムによって選ばれる新しいトレンドについて、「ユーザーが『いいね!』したページや住んでいる場所、リアクションをしたことのあるトピック、Facebook全体でトレンドになっている事柄など、いくつもの要因に基づいて」パーソナライズされていると説明している。

『ワシントン・ポスト』が調査したところ、今回掲載された虚偽のニュースは、以下のような経緯でアルゴリズムによって取り上げられたようだ。

トレンドになっていたケリーの記事はもともと、『National Insider Politics』へのブログ投稿の数段落を引用した『Ending the Fed』の記事だった。そして、『National Insider Politics』のブログ投稿自体が、実は保守系の別のサイト『Conservative 101』からの転載だった。

この3つのサイトのどれもが、「BREAKING」(速報)で始まる同じヘッドラインを使っていた。『Conservative 101』の投稿は、ケリーを「隠れリベラル」であるとして描くフィクションで、その大筋は、トランプ候補を支持する『Fox News』の有名司会者ビル・オライリーによって、ケリーが『Fox News』から排除されようとしているという内容だった。

RELATED