ChatGPT「あなた18歳未満ですよね」と会話履歴から18禁フィルターを勝手に発動させる
ChatGPTと深夜に「好きな推しの妄想話」をしていたら、突然「あなたは未成年と判断されました」と通知が出る……そんなリアル、もう始まってます。
OpenAIが発表した新しいAI年齢予測機能は、ユーザーが入力した生年月日だけでなく、「対話内容」「利用時間帯」「アカウント年齢」「使用パターン」などの行動シグナルをAIが分析し、18歳未満と判定すると自動的に追加のセーフティフィルターを有効化します。
大雑把に言うと、ユーザーの自己申告を信じないどころか、会話を監視して「あなたは子どもっぽいから制限します」と判断するわけです。
昨年末、ギズモードでもChatGPTのアダルトモード導入についてお伝えしましたが、今回はその裏側といえます。つまり、「大人のコンテンツ」を守るための「未成年フィルター」の強化版です。
でも、その精度はどこまで信頼できるのでしょうか？
「何を話して、いつ話すか」で年齢を見抜く
OpenAIの年齢予測システムは、「会話の一般的なトピック」や「ChatGPTを使う時間帯」などを総合的に分析します。
おそらく、学校の宿題について質問したり、放課後の時間帯に頻繁にアクセスしたりすると、「この人は学生かもしれない」とAIが推測するわけですね。 そして、18歳未満と判定されると、以下のようなコンテンツが自動的にブロックまたは制限されます。
・過度に暴力的または血なまぐさい内容
・性的、恋愛的、または暴力的なロールプレイ的な内容
・危険または有害な行動につながる恐れのあるバイラルチャレンジ
・自傷行為の描写
・極端な審美観、不健康な食事やダイエット、体型への不安を助長するコンテンツ
まぁ、これは確かに必要そうな機能です。未成年者がネット上で不適切なコンテンツにさらされるリスクは深刻で、保護者や教育者も頭を抱えている問題ですから。
でも、「中二病」を患っている30代や、創作活動でダークなテーマを扱う小説家が「未成年っぽい」と判定されて制限されたら？
……それは少し困りますよね。シンプルに自尊心が傷つくってのもありますけど。
誤判定されたら、自撮りか身分証で解除可能
もし、成人ユーザーが誤って未成年と判定された場合、OpenAIは申し立てプロセスを用意しており、第三者パートナーの「Persona」を通じて年齢確認ができます。
Personaは、サンフランシスコ生まれの身元確認サービスで、企業が個人や組織を確認し、KYC（顧客確認）／AML（マネー・ロンダリング対策）要件に準拠するためのインフラを開発しています。日本だとあまり馴染みがないかもしれませんが、Squareやredditなどの大手テック企業も利用しており、200以上の国と地域で利用されるプラットフォームです。
年齢確認の方法は国によって異なり、以下のいずれかまたは両方を求められます。
ライブセルフィー：携帯電話またはウェブカメラを使用して、リアルタイムで顔写真を撮影。
政府発行の身分証明書：運転免許証、パスポート、州発行の身分証明書などの写真をアップロード。Personaが生年月日を確認し、自撮り写真が身分証明書の写真と一致しているかを確認します。利用可能な身分証明書は国によって異なります。
Personaは、検証後7日以内にこれらのIDや自撮り写真を削除。また、OpenAI自身は画像を受け取らず、生年月日または年齢予測の結果のみを受け取ると説明しています。
それでも「AIとの会話内容を分析されて、その結果として身分証を出さなきゃいけない」という状況には、どこか居心地の悪さを感じます。
OpenAIは「どんなシステムも完璧ではなく、時々間違える可能性がある」と認めています。また、ユーザーの年齢について確信が持てない場合や不完全な情報しかない場合は、より安全な体験をデフォルトにするようです。
要は、グレーゾーンではまず「子ども扱い」して制限をかけ、大人が自分で証明する仕組み。「疑わしきは制限」というアプローチですね。
「自己申告」はもう難しい、というグローバルトレンド
確かに便利な機能のように思えます。子どもを守るという意味では画期的ですが、成人ユーザーにとっては「会話内容を常に分析されている」という事実が気になります。
OpenAIはデータをモデルのトレーニングに使わない選択肢を提供していますが、「リアルタイム監視」されている感覚は残ります。また、創作活動やロールプレイを楽しむ大人が「中高生っぽい」と判定されてロックされるリスクもあるでしょう。
もはや「生年月日を入力してください」だけでは、子どもたちをオンラインの危険から守れない時代です。
Personaは、未成年保護のプレッシャーに直面しているRobloxなどの他のテック企業でも使用されています。Metaも昨年からAIによる年齢推定を導入しており、オーストラリア政府は16歳未満のTikTokやFacebookなどのソーシャルメディア利用を禁止する法律を制定しました。
欧米では政府がAIの安全性と子どもの保護を強力に推進しており、今後もこうした「誤判定を恐れず、まずは保護を優先する」タイプの機能がスタンダードになっていきそう。
でも、この仕組みがバレていたら……ちょっと背伸びした会話をみんなChatGPTにしてしまいそう。あんまり語尾に「！！！！！」とかつけないほうがいいのかな。
Source：OpenAI, Cool3c, CNBC,JETRO
GIZMODO テック秘伝の書
