チャットコミュニケーションツールのDiscordは管理者とモデレーターにサーバーを安全に保つためのツールを提供しています。2022年6月16日にDiscordが、有害なメッセージが投稿される前に自動的に検出してブロックできる機能「AutoMod」を導入したと発表しました。AutoModはDiscordのコミュニティサーバーで、あらかじめ登録したワードを使ったユーザーを自動で取り締まってくれます。

Meet Your Newest Community Moderator: AutoMod Is Here

https://discord.com/blog/automod-launch-automatic-community-moderation

どういう機能なのかは、Discord公式が公開したアニメ風のムービーを見るとわかります。

Moderation made easier with AutoMod! - YouTube

「卵サーバーでネタ投稿注意報！」



「ウルトラMOD、アッセンブル！」



トゥギャザーネス！



ビロンギング！



セーフティ！



チームワーク！



合体！モデレーション！



しかし、モデレーションが現場に到着したところ、特に問題がある様子はありません。



「平和そのものじゃないか！」



実はAutoModが自動で問題を解決してくれていたのです。



卵サーバーの「市長」がAutoModに謝意を述べます。



そして、日本語歌詞のアニメソングのような曲が流れてエンディング……と思いきや、AutoModの機能説明がスタート。AutoModはテキストチャンネル、スレッド、および音声のテキストチャット内に投稿される前に、有害な単語やフレーズを含むメッセージを自動的に検出、ブロック、警告できるキーワードフィルタ機能を搭載しています。設定するには「サーバー設定」から「コンテンツ管理」を選択。



コンテンツ管理画面では、サーバーの「ルール」を設定することができます。「Set Up」をクリックすると……



ルールの名前、そしてサーバーで取り締まりたいワードを設定することができます。



設定したワードを投稿したユーザーからのメッセージをブロックしたり、警告を送ったり、サーバーからタイムアウトさせたりといった処置を設定できます。



AutoModによって引っかかったユーザーはモデレーターの画面に表示されるので、タイムアウトさせたりキックしたりBANしたりすることが可能です。



AutoModは単なるフィルタ機能というだけではなく、誹謗中傷とは関係ない文脈でワードを使う時やフィルターを回避するためのちょっとした言い換えにも対応しています。AutoModはWindows、macOS、Linux、iOS、Android、およびウェブアプリ版のコミュニティサーバーで利用可能だとのこと。Discordのスタッフは「コミュニティの管理は自分の趣味として楽しむべきものであり、自分の時間を作るために離れた時の『自分がいなくなったときに何が起こるかわからない』という罪悪感で頭を悩ませるべきではありません。成長するコミュニティの管理は、やりがいと充実感をもたらすものであるべきで、悪質な行為者や手に負えないメンバーに対処することで常にストレスを感じるようなものではありません」とコメントしています。