欧州委員会、EU理事会、欧州議会の三者協議により2023年12月に合意に至った「世界初のAI規制法」法案について、欧州議会議員による承認投票が2024年3月13日に行われ、賛成523票、反対46票、棄権49票の賛成多数で承認されました。

Artificial Intelligence Act: MEPs adopt landmark law | News | European Parliament

https://www.europarl.europa.eu/news/en/press-room/20240308IPR19015/artificial-intelligence-act-meps-adopt-landmark-law



World’s first major act to regulate AI passed by European lawmakers

https://www.cnbc.com/2024/03/13/european-lawmakers-endorse-worlds-first-major-act-to-regulate-ai.html



法案は2021年に欧州委員会の提出した素案をもとに議論と検討が重ねられたもので、AIそのものを規制しようとするものではなく、社会におけるAI使用時の潜在的なリスクと影響レベルに基づき、AIに対する義務を定めるものです。

EUが「AIの使用を規制する法案」を2023年内に承認へ、いったいどんな法律なのか？ - GIGAZINE



ヨーロッパに拠点を置く企業からは「ヨーロッパの競争力に壊滅的な影響を与えるものだ」と抗議の公開書簡が発表されていました。

AI規制法案は「現状の課題に対処せず競争力を損ねるだけだ」と欧州企業150社以上が公開書簡に署名して猛抗議 - GIGAZINE



以下は今回の投票結果発表の瞬間です。



この「AI規制法」では、細かな特徴に基づく生体認証分類システムや、顔認識データベース作成のためにネットや防犯カメラの映像から不特定の人間を対象として顔画像をスクレイピングすることなど、市民の権利を脅かす特定のAIアプリケーションが禁止されます。

また、職場や学校での情動認知、社会的スコアリング、プロファイリングや特性評価にのみ基づいた予測的取り締まりなど、人間の行動を操作しようとしたり、人間の弱みを悪用するようなAIも禁止されます。

法執行機関による生体認証システム(RBI)の使用も原則として禁止され、リアルタイムRBIは厳密な保護措置が満たされている場合のみ使用可能となります。使用できるケースとして挙げられているのは、時間的・地理的に範囲が制限されていて、特定に事前の司法・行政の許可がある場合、たとえば行方不明者の捜索や、テロ攻撃の防止などとなっています。事後的なRBI使用は高いリスクのある利用法であると定められ、刑事犯罪に関連する司法権限が必要になるとのこと。

その他、健康や安全、基本的権利、環境、民主主義、法の支配などに重大な影響を及ぼす可能性のある高リスクなAIシステムについても明確な法的義務が発生します。

汎用AI(GPAI)とそのベースになるGPAIモデルは、EU著作権法への準拠や、トレーニングに使用されるコンテンツの詳細な概要の公開など、特定の透明性要件を満たす必要があります。また、画像や音声、映像で加工されたものや人工的に生み出されたもの、いわゆる「ディープフェイク」に該当するものは「ディープフェイクである」ことを明示する必要があります。

このほか、新興企業や中小企業の支援策として、革新的なAIを開発して、市場に投入する前にトレーニングを行う場合のために、国家レベルで管理されたサンドボックスと実環境でテストできるようにすることが求められています。

なお、法案が成立するにはさらに理事会による正式な承認が必要で、公式記録に掲載されてから20日後に発効し、発効から24カ月後に完全に適用されることになります。ただし、行動規範は発効後9カ月、ガバナンスを含む汎用AIルールは発効後12カ月、ハイリスクなAIシステムの義務は発効から36カ月後に適用されるとのことです。