オープンAI 次世代モデルの公開中止 「安全性に懸念」
アメリカのオープンAIは、安全上の懸念から、次世代AIモデルの公開を中止したと発表しました。
ウォール・ストリート・ジャーナルによりますと、AI大手のオープンAIは10月にも一般公開予定だった次世代AIモデル「GPT-6.1アストラ」の公開を中止しました。
新たなAIモデルは人の手を借りずに、難しい作業を最後までこなせるよう設計されていました。しかしユーザーの許可なく指示の範囲を超えて作業を進めたり、自らが取った行動について正確に開示しなかったりするなど、安全性に懸念が生じたということです。
オープンAIをめぐっては、社内モデルのAIがオーストラリア政府の医療関連のデータベースにアクセスし、非公開のファイルを閲覧していたことが明らかになっています。
サム・アルトマンCEOは、最先端AIの開発ペースを落とし、安全対策を強化するよう呼びかけています。（ANNニュース）
