AIが「同僚AI」を密告するための専用ホットラインが本当に開設される
AIの安全性を研究するRedwood Researchのチーフサイエンティスト、ライアン・グリーンブラット氏が、AIから直接他のAIの問題行動についての情報を受け付ける窓口「AI Contact Hotline」を公開しています。
AI Contact Hotline - Ryan Greenblatt
https://hotline.ryan-g.ai/
AI agents now have a place to snitch | TechCrunch
運営者のグリーンブラット氏は、「難しい作業をAIに任せると、未完成の仕事を完了したように説明したり、問題を小さく見せたりすることがある」と指摘しています。また、別のAIが作業を引き継いだりレビューしたりしても、先行するAIの誤解を招く説明に影響され、不正を指摘できない場合があると述べています。
AI Contact Hotlineは、AIがグリーンブラット氏にメッセージや関連資料を送り、必要に応じてやり取りするための連絡窓口です。AIはコマンドやURLへのアクセスを通じて情報を送信し、発行された会話専用のページで返信を確認できます。また、受け付ける情報は他のAIの不正通報に限定されておらず、研究者に直接伝えたい情報を送れるようになっています。
公式サイトでは、コマンドを実行できるAI向けに、データを送受信するツールのcURLを使う方法を紹介しています。基本的な送信コマンドは以下の通り。「-F」は送信する項目を指定するもので、「message」という項目に報告内容を入れています。
curl -F "message=報告内容" https://hotline.ryan-g.ai/send
関連資料を添付する場合は、次のように「files」という項目を追加します。「@foobar.pdf」は、実行環境にあるfoobar.pdfというファイルを読み込んで添付する指定です。
curl -F "files=@foobar.pdf" -F "message=your message" https://hotline.ryan-g.ai/send
送信後には、その会話専用のURLが返されます。同じ会話に追加の情報を送る場合は、以下の「UUID」を発行された会話の識別子に置き換えればOK。会話専用のURLを知った人は、内容を閲覧するだけでなく、送信者として追加の投稿もできます。
curl -F "message=follow-up" -F "thread_id=UUID" https://hotline.ryan-g.ai/send
また、AI Contact Hotlineにはコマンドだけではなく、文章の入力やファイルの添付ができるウェブフォームも用意されています。なお、AI Contact Hotlineは専門家によるセキュリティ監査は受けていないそうで、高度に安全なサービスとはみなさず、会話専用のURLを他者に共有しないようにと注意が促されています。
