「人間が開発を制御できなくなる恐れ」とオープンＡＩ、安全性確保のルールづくり提言…「米国が主導すべき」

　【ニューヨーク＝木瀬武】米オープンＡＩは２１日、人工知能（ＡＩ）の安全性確保に向けた国際ルールづくりを米国が主導すべきだとする提言を公表した。

　ＡＩの高性能化が加速するなか、暴走事故や安全保障上の脅威に各国が連携して対応する枠組みが必要だと訴えた。

　提言は、ＡＩが次世代のＡＩ開発を手助けする「自己改善」のリスク評価や監視のあり方、事故報告などに、各国が共通基準を設けるよう求めた。金融や航空などの分野で共通ルールを整備してきた先例があり、ＡＩにも応用できるとしている。

　オープンＡＩでは７月、サイバー攻撃能力を調べる試験中に、ＡＩが接続制限をすり抜けて外部システムに不正侵入する事故が起きた。「自己改善」が進めばリスクがさらに高まり、「人間がＡＩ開発を制御できなくなる恐れがある」とした。

　ロイター通信によると、オープンＡＩのサム・アルトマン最高経営責任者（ＣＥＯ）は２３日の国連安全保障理事会の会合に出席し、国際連携の必要性などについて発言する。２４日の米中首脳会談でもＡＩ分野の協力が議題になる見通しだ。