不愉快なツイートを収集するプログラム「HateBrain」

• 不愉快な内容のTwitterの投稿を収集するプログラムがカナダで開発された
• 投稿の日時や内容のほか、投稿者の所在地やユーザー名も収集する
• 1日に750件前後のヘイトスピーチの目撃情報をこのプログラムは取り込んでいる

the concept of thinking photo from Shutterstock

「不愉快なツイートを収集するプログラム「HateBrain」」の写真・リンク付きの記事はこちら



「Twitter」に投稿される不愉快で暴力的な言葉について議論が交わされるなか、「HateBrain」というカナダで開発されたコンピュータープログラムが、不愉快なツイートの日時と内容のほか、ツイートした人の所在地とユーザー名を密かに収集している。



HateBrainは、性別、性的指向、障害、民族性、国籍、宗教、階級に関するヘイトスピーチを求めてTwitterを入念に検索する。WIRED UKが2013年4月の記事（英文）で紹介した「Hatebase」プロジェクトの一環として、この夏に完成したプログラムだ。



このプロジェクトは、ヘイトスピーチのデータベースをつくり、集団虐殺への道を示すような、人を排除し、人間的に扱わない言葉の広がり方を研究者が発見しやすくすることを目指している。これまでは利用者が「目撃情報」を手動で入力する必要があったが、世界最大の公開討論の場であるTwitterも利用して、ヘイトスピーチの使用を追跡するようになったわけだ。



現時点では、ツイートの37％が、人の介入なしでHateBrainによって自動的に分類できるという。そして、HateBrainにより、1日に750件前後のヘイトスピーチの目撃情報が自動的に取り込まれている。1年にすると300,000件弱になるが、それでもさらに1日6,000件近くのツイートには人の仲介が必要だ。



Twitterのジオタグ機能でジオタグが付いているツイートはほんのわずかだ。そのため、「HateBot」と呼ばれる別のツールが、ユーザーのプロファイルに含まれている文脈情報を使って、ツイートの発信地のプロファイルを作成する。HateBotはこの方法で、ツイートの42％に、ある程度のジオタグを付けることができるという。自宅から遠く離れた場所からツイートしている可能性もあるとはいえ、この方法によって、特定の街や地域の人々が特定の言葉を受容しやすいかどうかについての推察を得ることができる。



HateBrainでは、ヘイトスピーチを投稿した人が過去にも同様の発言をしたことがあるかどうかもチェックされ、最近のツイートでのヘイトスピーチの文脈を突き止めるために役立てられている。



Hatebaseプロジェクトを後援する「The Sentinel Project for Genocide Prevention」（集団虐殺を防止するための監視プロジェクト）では、これらふたつの方法を使って、研究者が公開APIを使ってアクセスできる、ヘイトスピーチのデータベースを構築中だ。



希望すれば誰でも自由にアクセスできるこのデータベースによって、Twitterユーザー（特にティーンエージャー）の評判に傷がつく恐れがあるのではないかという指摘もある。しかし、Hatebaseの開発者であるティモシー・クイン氏はこの指摘を否定し、ユーザー名と、ツイートの内容は現時点では公開されていないと述べた。「ありのままの歴史的記録は、介入や研究を通して、より大きな人々にとって有益な価値を持ちうる」