欧洲议会通过世界首部《人工智能法案》

2024年3月13日，欧洲议会通过世界首部《人工智能法案》（Artificial Intelligence Act）。该法案旨在通过对AI的使用进行规制，以保护公民基本权利、民主、法治和生态环境免受人工智能（AI）的影响，促进以人为本、值得信赖的AI的发展应用。

该法案的适用范围非常广泛，包括但不限于欧盟境内AI系统的供应商，以及欧盟境外的AI系统供应商（如果其AI系统在欧盟市场内投放使用）。该法案尚未生效，仍待在欧盟官方公报上公布，公布日期尚不明确；公布后20天即生效。下面将对该法案规制的主要内容进行介绍。

 

一、禁止某些AI应用程序

法案禁止某些威胁公民权利的AI应用程序，包括基于敏感特征的生物识别分类系统，以及无针对性地从互联网或闭路电视录像中抓取面部图像以创建面部识别数据库的系统。在工作场所和学校对人类情绪进行识别以及操纵人类行为或利用人类弱点等的AI应用程序也将被禁止。

 

二、执法豁免

一般情况下，执法部门禁止使用生物识别系统（RBI）。在某些特定情况下，执法部门需要采取严格保障措施，才能使用“实时”RBI。其中，特定情况包括有针对性地搜寻失踪人员或防止恐怖袭击；保障措施包括RBI的使用受到时间和地理上的限制，且须事先获得特定的司法或行政授权。事后使用RBI则需要有与刑事犯罪相关的司法授权。

 

三、对高风险系统的规制

对于一些高风险AI系统，由于其对公民健康、安全、基本权利，生态环境、民主和法治的重大潜在危害，法案也对其作出了规制。

高风险AI系统指适用于关键基础设施、教育和职业培训、就业、基本的私人和公共服务（如医疗保健或银行）、执法、移民和边境管理、司法和民主进程中的某些AI系统（如影响选举）。

对于此类AI系统，必须对其风险进行评估和降低，并确保其受到人为监督。公民将有权对相关AI系统进行投诉。

 

四、透明度要求

通用人工智能（GPAI）系统及其所基于的GPAI模型必须满足某些透明度要求，包括遵守欧盟版权法和发布用于培训的内容的详细摘要。

对于可能构成系统性风险的更强大的GPAI模型，法案对其设置了更多约束，包括对其进行模型评估和减轻系统性风险等。

此外，经过人工或其他方式处理的图像、音频或视频内容（“deepfakes”）需要明确标记其被处理过。

 

五、支持创新和中小企业的措施

法案还规定了支持中小企业创新的措施。法案规定各成员国将在国家层面建立监管沙盒和真实世界测试，并向中小企业和初创企业开放，以确保在投放市场之前，相关AI系统可以得到开发、培训、测试和验证。

 

六、惩罚

法案规定欧盟各成员国应当针对违反上述规制的行为，规定相应的惩罚措施。惩罚措施包括警告、罚款等。其中，罚款金额将根据违规的性质、严重程度，以及违规行为影响的人数等因素进行决定。罚款金额可高达35000000欧元，或者上一财政年度全球年营业额的7%。

 

---

来源：北京市贸促会法律部