マッチングアプリのTinderは、メッセージ送信時に『相手はこの言葉を失礼だと感じるかもしれません。本当にこのまま送信しても大丈夫ですか？』と警告する「迷惑メッセージ防止機能」の提供を日本で開始しました。

この「迷惑メッセージ防止機能」は、過去に報告された内容に基づいてAIが判定しており、今後も継続してアップデートすることで精度の改善を図ります。

また、不適切な言葉を含んだメッセージが届いた場合『メッセージに不愉快な思いをする内容がありましたか？』と問いかけ、『はい』と答え場合、メンバーは相手の行為を通報できる機能もあわせて提供します。

同機能は米国で先行的にテストした結果、メッセージに含まれる不適切な言葉が10％以上削減されたとのこと。また、警告を見たユーザーは、それ以降不適切なメッセージとして報告される可能性が低くなることも判明しています。

Source：Tinder