OpenAIが最先端の高性能AIである「フロンティアAI」を対象にした規制案「Democratic Governance of Frontier AI: A blueprint for a federal framework(フロンティアAIの民主的ガバナンス：連邦レベルの枠組みの青写真)」を発表しました。アメリカ政府がフロンティアAIをどのように評価し、安全性を確認し、責任を持って管理するべきかをまとめた政策提案となっています。

A blueprint for democratic governance of frontier AI | OpenAI

https://openai.com/index/frontier-safety-blueprint/



AI技術が発展し、メールの下書きをAIに任せたり、プログラムの不具合を探してもらったり、長い資料を要約してもらったりする使い方はすでに身近になっています。一方で、AIがサイバー攻撃の手順を高度化したり、生物学的な悪用につながる情報を扱ったりする可能性も指摘されています。AIの性能が上がるほど、便利な道具としての価値だけでなく、社会全体に影響するリスクも大きくなることは必然です。

OpenAIはAI公開の判断を企業だけに任せるのではなく、民主的な手続きに基づく連邦レベルの枠組みが必要だと説明しています。州ごとに異なるルールが増えると企業の対応が複雑になるだけでなく、国境や州境を越えるAIリスクに十分対応できないため、連邦レベルで取り組む必要があるとのこと。

今回発表された規制案では「フロンティアAIの安全評価や透明性レポートを求める全国的な制度作り」「Center for AI Standards and Innovation(CAISI)を中心にした専門的な評価体制の整備」「政府全体でサイバーセキュリティや公衆衛生などの防御力を高める戦略」の3点を中心に提案がまとめられています。

具体的には、重大リスクの評価、独立した監査、重大インシデントの報告、未公開モデルの重みの保護、内部告発者の保護などが挙げられています。モデルの重みとはAIの能力を形作る内部データで、流出すれば未公開モデルが悪用される可能性があるため保護が必要とのこと。



またOpenAIは、最も高性能なAIについては公開前評価を行うべきだとしつつ、政府機関が公開を許可したり禁止したりする「門番」になるべきではないとも述べています。評価結果や安全対策を公表し、最終的な責任は開発企業が負う仕組みを想定しているとのこと。

OpenAIは「AIの能力が既存の制度やルールの整備を上回る速度で進歩する可能性がある」とも指摘。フロンティアAIが経済や科学研究、国家安全保障に大きな影響を与える前に、安全性を評価し責任を明確にする仕組みを整えておく必要があるとして、早期の制度整備を呼びかけました。