OpenAIの開発するチャットAIのChatGPTに、「信頼できる連絡先(Trusted Contact)」機能が追加されました。この機能により、「成人ユーザーが自傷行為について深刻な安全上の懸念を示す形でChatGPTと会話した可能性がある」とOpenAIの自動システムと訓練を受けた審査員が判断した場合、当該ユーザーが事前に指定した「信頼できる連絡先」に通知が送信されることとなります。

Introducing Trusted Contact in ChatGPT | OpenAI

https://openai.com/index/introducing-trusted-contact-in-chatgpt/



ChatGPTに新たに追加される「信頼できる連絡先」機能で、成人ユーザーは友人・家族・介護者などを信頼できる連絡先として指名することができます。ユーザーが自傷行為についてChatGPTと会話した可能性があり、それが深刻な安全上の懸念を示す場合、OpenAIの自動システムと訓練を受けた審査員が登録された連絡先に事態について通知する仕組みです。

「信頼できる連絡先」機能は、ChatGPTで既に利用可能な地域別ヘルプラインに加えて、ユーザーが危機的状況にある時に信頼できる人物とつながることができるよう支援することで、さらなるサポートを提供するよう設計されています。

「信頼できる連絡先」は、ChatGPTの保護者による管理機能と安全に関する通知機能の拡大版です。保護者管理機能と連携された10代の未成年ユーザーアカウントでは、「信頼できる連絡先」を登録していなくても、ユーザーがChatGPTと危険なやり取りを行った場合に、保護者や後見人がアラートを受け取ることとなっています。



「信頼できる連絡先」の詳細は以下の通り。

・ユーザーはChatGPTの設定から、信頼できる連絡先として大人1名(世界共通で18歳以上、韓国では19歳以上)を追加できます。

・信頼できる連絡先には、その役割を説明する招待状が送付され、機能を有効にするには1週間以内に招待を承諾する必要があります。信頼できる連絡先が承諾を辞退した場合、ユーザーは別の成人を追加することが可能。

・OpenAIの自動監視システムが、ユーザーが深刻な安全上の懸念を示すような形で自傷行為についてChatGPTと会話している可能性を検出した場合、ChatGPTはOpenAIがユーザーの信頼できる連絡先に通知する可能性があることをユーザーに通知。加えて、会話のきっかけとなる提案とともに、信頼できる連絡先に連絡するよう促します。

・ここから特別に訓練された少人数のチームが状況を審査。審査員が「会話が深刻な安全上の懸念を示している可能性がある」と判断した場合、ChatGPTは信頼できる連絡先に、メール・テキストメッセージ・(ChatGPTアカウントを持っている場合は)アプリ内通知で簡単な通知を送信。

・この通知は意図的に内容を限定したものとなり、自傷行為が懸念される形で話題になった一般的な理由を伝え、信頼できる連絡先に連絡を取るよう促します。ユーザーのプライバシーを保護するため、チャットの詳細や記録は含まれません。また、通知には専門家のガイダンスへのリンクも含まれています。

・ユーザーは設定画面でいつでも信頼できる連絡先を削除または編集できます。加えて、信頼できる連絡先はヘルプセンターからいつでも自身を削除することが可能です。



なお、OpenAIはメンタルヘルスと自殺予防を専門とする臨床医・研究者・団体の指導のもとで「信頼できる連絡先」機能を開発しました。この取り組みは、60か国に260名以上の医師が所属するグローバル医師ネットワークとウェルビーイングとAIに関する専門家評議会の知見に基づいています。また、アメリカ心理学会をはじめとする外部機関とも緊密に連携している模様。

OpenAIは「信頼できる連絡先機能は困難な状況にある人々を支援するAIシステムを構築するというOpenAIの幅広い取り組みの一環です。私たちは、人々が苦痛を感じている可能性がある場合にAIシステムがどのように反応するかを改善するため、臨床医・研究者・政策立案者と引き続き協力していきます。我々の目標は、AIシステムが孤立して存在するのではなく、人々が最も必要とする現実世界のケア・人間関係・リソースにつながるよう支援することです」と説明しています。