「ネット荒らし」を予測するアルゴリズム

写真拡大

5〜10件のネット投稿を調べるだけで、コミュニティーで「荒らし」をしそうなメンバーを予測できるアルゴリズムが開発された。グーグルの資金提供を受けた、スタンフォード大学とコーネル大学による研究だ。

「「ネット荒らし」を予測するアルゴリズム」の写真・リンク付きの記事はこちら

5〜10件のネット投稿を調べるだけで、オンライコミュニティーで「荒らし」をしそうなメンバーを予測できるアルゴリズムが開発された。

この研究(PDF)は、グーグルから資金提供を受けて、スタンフォード大学とコーネル大学の研究者たちが行ったものだ。

研究では、ニュースサイト「CNN」、政治サイト「Breitbart」、ゲームサイト「IGN」のコメント/フォーラム・セクションという3つのコミュニティーを、18カ月間に渡って調査した。対象となったユーザー数は合計で170万人、投稿件数は4,000万件だ。

この研究では、「ネット荒らし」の行動が長期にわたって観察され、最終的に何が原因でコミュニティーへの立ち入りを禁止されたのかが分析された。その結果、「荒らし」は投稿回数が多く、スペルミスや文法間違いが散見される(しかも時間とともに悪化する)ことがわかった。さらに、コミュニティー側にも、彼らの反社会的行動を増長させる「培養器」の役割を果たす傾向があることがわかった。

サイトから「永久追放」を言い渡されるに至ったユーザーは、最初から非常に明確な行動や人格を示していた。彼らの投稿内容は他のユーザーと比べてひどく悪質で、時間がたつにつれてさらに悪化していった。

彼らは投稿回数が多いことが特徴だ。例えば、CNNで立ち入りが禁止されたユーザーは、禁止されるまでに264回の投稿を行っていた。平均的なコミュニティー・メンバーは、同等の期間で22回しか投稿していなかった。

また、悪質なユーザーは、平均的ユーザーと比べて返信を受ける回数も多かった。研究者たちによるとこれは、「彼らが、時間だけかかる無駄な論争に他人を引きずり込むことに成功した」可能性があることを示唆しているという。

こうした荒らしに対してコミュニティー側が厳しいフィードバックを行っても、反社会的行動をさらに激化させるだけになる可能性が高いと、研究では主張している。

これらのプラットフォームはそれぞれ、反社会的行動をやめさせるためのメカニズムを組み込んでいると、研究では指摘している。「コミュニティーでの議論の管理や、賛成/反対投票する機能、問題投稿を報告できる機能、ミュート機能、さらにはもっと根本的に、ユーザーの投稿機能を完全ブロック」といったものだ。

ただし、研究で開発されたアルゴリズムが「将来の荒らし」として選び出したユーザーの5人に1人は、間違って特定されたもので、立ち入り禁止になることはなかった。「(クラウドソーシングなどを利用して)ユーザーをさらにきめ細かくラベル付けすれば、より幅広い行動情報が明らかになるだろう」と研究チームは述べている。

TAG

ResearchSNSTrollWIRED UK