欧州連合（EU）理事会と議会は12月9日、EU域内投資とイノベーションを促進すると同時に、EU市民の基本的人権とEU的価値を尊重しつつ人工知能(AI)の安全な利用を可能とするように、当該分野でのバランスのとれた法制度の必要性に応えることを目的として、AI規則案に関する合意に達したことを発表した。
本合意は、2021年に欧州委員会に提案された同規則案に端を発したが、暫定的な性質を有すものであり、規則のテクニカル且つ形式的な側面の最終確定のためには、いくつかのフェーズを経る必要がある。本規則案がEU議会と理事会で承認された場合、施行日から2年後に適用が開始されるため、2026年以降の適用が予定されている。
本規則案には、他の伝統的ソフトウェア・システムとAIを区別するための様々な基準が紹介されている。また、AIの明確な定義を、「機械もしくは人間によって生成されたデータや情報から、一連の目的達成方法を推測し、機械学習(ML)技術または論理および知識に基づく戦略を用いてシステムが生成する出力情報を、自律的な要素で動作するように設計されたシステム」のように示した。
また、同法案には、以下に挙げるような、基本的人権侵害の可能性のあるさまざまな行為を禁止するための基準が設けられている。
(i) 個人に身体的・心理的危害を引き起こし、その行動を本質的に操作する可能性のあるAIの導入
(ii) 特定の人間集団の脆弱性による搾取の可能性のあるAIの使用
(iii) 社会的行動や個人的特徴に基づくソーシャル・スコアリング(社会的格付け)をAIで行い、特定の人または集団を差別的もしくは不当に扱うこと
(iv)パブリックスペースにおけるリアルタイムな遠隔生体認証技術(特定の状況を除く)の使用
(v) 職場もしくは教育機関における個人の感情認識技術の利用
上記(iv)パブリックスペースで遠隔生体認証技術利用を認める特定な状況においても、「システムを使用するEU加盟国の独立した司法当局もしくは行政当局への事前申請を条件とするものとし、同当局は、国内の詳細な法規定に従い、合理的な要求に基づいて事前認可を与えなければならない……」と定めている。続いて、
「しかしながら、正当性を証明可能な緊急事態においては、事前認可なしにシステムの使用を開始することができる」 とし、「システムの使用中に不当な遅滞なく本件の認可を申請し、認可拒否をされた場合にはシステムの使用を直ちに停止することを条件とする。」とも定めている。
違反に対する罰則は「効果的、比例的、かつ予防的な」ものでなければならず、対象企業の規模、あるいは経済的な存続可能性を考慮しなければならない。各加盟国は罰則制度を定め、有効な制度適用を保証する責任を負い、制裁制度及び措置について欧州委員会に通知することが義務付けられる。同規制に違反した場合、違反企業の規模や売上高を考慮し、最高3,500万ユーロ、もしくは売上高の6％、中小企業や新興企業の場合は3％を上限とする制裁金を科すことができるとしている。自然人または法人は、規則遵守の監督当局に異議申立てることが可能である。
イノベーション支援という観点からは、AI研究者が、現実の状況を再現した空間でシステムを開発・検証できるように管理可能なサンドボックス制度を導入する。また、中小企業やベンチャー企業の行政事務的負担を軽減する目的で、さまざまな支援を導入する。
EUは包括的なAI技術規制法を導入する世界的なパイオニアとなるため、企業もしくは投資家にとって、EU市場への参入または残留決断をするか、まだ規制がなく発展の余地が大きい他市場への進出かを判断する上で、その動向は大きな関心事となるだろう。
ヴィラ・オスカル (Oscar Vilá)
ヴィラ法律事務所
2023年12月22日
