「フェイクニュース対策には、記事の見出しが正確かどうかを考えさせることが有効」との研究結果があるとおり、フェイクニュースの影響を最小減にするには、ファクトチェックなどにより情報の正確性を吟味する作業が欠かせないと言われています。しかし、Twitterでフェイクニュースを拡散している人に対して、正確な記事へのリンクを返信するという実験により、「フェイクニュースを訂正された人はかえってリツイートの質が低下し、偏りや有害性が強まってしまう」ことが示されたとの研究結果が発表されました。

Perverse Downstream Consequences of Debunking: Being Corrected by Another User for Posting False Political News Increases Subsequent Sharing of Low Quality, Partisan, and Toxic Content in a Twitter Field Experiment

(PDFファイル)https://dl.acm.org/doi/pdf/10.1145/3411764.3445642

エクセター大学のMohsen Mosleh氏らの研究チームは、フェイクニュースの訂正がその後の行動に与える影響を研究するため、虚偽だということが判明しているフェイクニュース11件を拡散しているTwitterユーザー2978人を特定。フェイクニュースに疑問を呈する意図で拡散している人を除外して、本当にそのフェイクニュースを信じていると思われるTwitterユーザー約2000人を今回の実験の被験者としました。

その後研究チームは、フェイクニュースを訂正するためのアカウントをTwitter上に複数作成し、「被験者がフェイクニュースを拡散するリツイートを投稿するたびに、フェイクニュース訂正用アカウントからファクトチェックサイトSnopes.comのリンクを含むリプライを送る」という実験を行いました。なお、研究チームは訂正用アカウントが本物のTwitterユーザーに見えるようにするため、実験開始の3カ月前にアカウントを作成して、各アカウントにリアルなプロフィールを持つフォロワーを1000人以上つけるなど、周到に前準備を行っていたとのこと。

被験者と訂正用アカウントのやりとりの一例が以下。被験者がリツイートで共有したフェイクニュース(左)は「クリントン財団に献金している国はウクライナがトップである」と訴えていますが、訂正用アカウントのリプライ(右)はその記事を取り上げたSnopes.comのページを引用して、当該ニュースは誤りであると指摘しています。



実験終了後、プロのファクトチェッカーが作成した「ニュースソースの品質スコア」を使用して、ファクトチェックによる訂正を受けた後の被験者の「リツイートの質」と「偏り」を調査したところ、いずれも有意に悪化していたとのこと。また、GoogleのサービスであるGoogle Jigsaw Perspective APIを用いて被験者の「言葉の有害性」を分析した結果、訂正を受けた被験者は暴言が増加したり言葉づかいが荒くなったりしていたことが確認されました。

この結果について、研究チームは「先行する研究では、誤りを訂正するとそのフェイクニュースに対する考えを改善させることができるとの結果が得られましたが、本研究では逆に、訂正が負の結果をもたらす可能性が明らかになりました。つまり、訂正を受けるとユーザーが拡散するコンテンツの質は低下し、言論の偏向や有害性は強まるおそれがあるということです。これは、他の人から誤りを指摘された人は真偽問題から目を背けてしまうことを示唆しており、このことは社会的な訂正アプローチにとって重要な課題となるでしょう」と結論付けました。