Blueskyが悪質ユーザーの対策として「アカウントを複数作成して嫌がらせ行為に及ぶユーザーの検出」「スパムアカウントや偽アカウントの迅速削除」といった機能の開発に取り組んでいることを明らかにしました。

Bluesky’s Current Efforts on Trust and Safety - Bluesky

https://bsky.social/about/blog/09-18-2024-trust-safety-update

◆アカウントを複数作成して嫌がらせ行為に及ぶユーザーの検出

Blueskyによると、嫌がらせ行為に及ぶユーザーはモデレーションを回避するために複数のアカウントを作成するなどの「無限の創造性」を発揮しているとのこと。Blueskyは悪質ユーザーの対策として「同一ユーザーが複数の悪意あるアカウントを作成した際に、自動検出して管理する機能」を開発中です。

◆有害なリプライの検出

Blueskyには悪質なポストを報告する機能が搭載されています。ユーザー報告を分析した結果、ユーザーが最も多くの被害を受ける場所は「リプライ」であったことが判明したとのこと。リプライを用いた嫌がらせを抑制するために、「悪質なリプライを自動検出し、アプリ内での可視性を下げる機能」の開発が進んでいます。また、悪質なリプライを繰り返した場合、アカウントが停止されることとなります。



◆スパムアカウントや偽アカウントの迅速削除

Blueskyのモデレーションチームは詐欺行為に及ぶ偽アカウントなどの検出に取り組んでいますが、詐欺行為は数分で完了してしまうこともあるため人力の検出では追いつかないこともあります。Blueskyは「偽アカウント」「詐欺行為に及ぶアカウント」「スパムアカウント」を自動検出する機能を開発しており、自動検出機能からモデレーターによるアカウント削除までの作業を数秒以内に完了することを目標としています。

◆ルール違反ユーザーとのやり取りをアプリ内で実施

現時点では、Blueskyはルール違反ユーザーに対してメールで連絡しています。今後数カ月以内に違反通知がアプリ内で完結するようになるとのこと。

◆地域に応じたコンテンツモデレーション

国や地域によってSNS投稿に関する法規制が異なっており、違法とみなされるコンテンツにも違いがあります。このため、Blueskyは裁判所や政府からコンテンツの削除要請を受けた場合に「全世界のBlueskyユーザー」ではなく「特定地域のユーザー」のみを対象にコンテンツ制限を実施するそうです。

◆動画のモデレーション

Blueskyは2024年9月12日に動画投稿機能を正式リリースしました。動画投稿機能では「動画投稿機能はメールアドレスの認証が完了したユーザーのみに提供する」「児童性的虐待コンテンツや違法コンテンツをスキャンして削除する」といったモデレーションが実施されています。

ついにBlueskyに動画投稿機能が追加される、対象ユーザーは段階的に拡大予定 - GIGAZINE



◆リストを用いた嫌がらせの抑制

BlueskyではX(旧Twitter)と同様に複数のユーザーを「リスト」にまとめて閲覧したり他ユーザーにリストを公開できます。加えて、Blueskyでは「ブロック対象ユーザーをまとめたリスト」を作成したり共有することも可能です。これまでは、ブロック対象ユーザーリストに問題があった場合「リスト全体の削除」しか対策方法がありませんでしたが、今後は「リストの中から特定のユーザーを削除」という操作が可能になるそうです。

◆フォーラム開設中

本記事に関連するフォーラムをGIGAZINE公式Discordサーバーに設置しました。誰でも自由に書き込めるので、どしどしコメントしてください！Discordアカウントを持っていない場合は、アカウント作成手順解説記事を参考にアカウントを作成してみてください！

• Discord | "SNSの嫌がらせ防止、どんな機能が欲しい？" | GIGAZINE(ギガジン)

https://discord.com/channels/1037961069903216680/1286259673585946645