立法背景
欧盟委员会在 2021 年 4 月提出了一项关于人工智能的提案，这是欧盟政策的核心部分，旨在确保公民基本权利的前提下，在统一市场内推动安全、合法的 AI 工具的发展和应用。该提案基于风险原则，制定了一个统一和全面的法律框架，以确保法律的明确性。它旨在推动 AI 应用的投资和创新，强化对基本权利和安全的现有法律的管理和有效执行，并推动 AI 在单一市场的发展。此外，这个提案与包括协调 AI 计划在内的其他倡议一同推进，以促进欧洲 AI 行业的投资。到 2022 年 12 月 6 日，理事会就此文件达成了一般性方法的协议，并于 2023 年 6 月与欧洲议会进行了三方会谈。
经过 3 天的“马拉松”式谈判后，理事会主席团和欧洲议会的谈判代表已就人工智能的统一规则提案达成了临时协议，即大家熟知的人工智能法案(Artificial Intelligence Act)。这份草案法规旨在确保在欧洲市场上销售并在欧盟使用的 AI 系统安全，且尊重用户的基本权利和欧盟价值。这个里程碑式的提案还旨在刺激欧洲对 AI 产业的投资和创新。
立法价值
西班牙数字化和人工智能国务秘书 Carme Artigas 表示：”这项法案是一项历史性的成就，有效应对了在快速发展的技术环境中的全球挑战。人工智能是未来社会和经济的关键领域。在法案中，我们成功地找到了一种微妙的平衡——在全欧洲范围内提升创新和人工智能的应用，同时充分尊重我们公民的基本权利。”
人工智能法案是一个标志性的立法倡议，具有推动欧盟单一市场中的公司开发和采用可信赖的人工智能的潜力。其主要目标是根据人工智能可能带来的社会危害程度来进行规范。按照风险基础理论，风险越高，规范应越严格。作为全球首个人工智能立法提案，它有可能为其他司法管辖区的人工智能规定设立全球标准，就像 GDPR 在世界舞台上推广欧洲的科技规定方法一样。
主要内容
修改为“临时法案的核心内容相对于最初的欧盟委员会提案发生了一些关键变化，主要包括以下几个新的要点：
1.针对可能导致未来系统性风险的高影响力通用 AI 模型，以及高风险 AI 应用系统，设定了具体的规定；
2.对具有一定欧盟层面执行权的治理体系进行了修订；
3.扩大了禁止使用的范围，但在公共场合允许执法机关有条件地使用远程生物识别技术，前提是采取了相应的保护措施；
4.在部署高风险 AI 系统之前，强制要求进行公民基本权利影响评估，以确保其使用符合法律要求。
法案具体包含以下方面：
定义和范围
为了清楚地区分 AI 系统与更简单的软件系统，临时法案明确了 AI 系统的定义，使其符合经济合作与发展组织（OECD）的标准。此外，该法案也指出，新的规定不适用于欧盟法律范围之外的地区，同时也不会影响成员国在国家安全等领域的权力。此外，仅用于军事、防御目的的 AI 系统，以及仅用于研究、创新或非专业用途的 AI 系统，不在此法规的适用范围内。
将 AI 系统分类为高风险和禁止的 AI 实践
法案设立了一个包含高风险分类的横向保护层，旨在确保那些不太可能侵犯公民基本权利或带来其他重大风险的 AI 系统不受影响。仅具有有限风险的 AI 系统将承担较轻的透明度要求，例如，应提供 AI 生成的信息（如深度伪造场景应标记“AI生成”）以帮助用户做出明智的使用决策。对于高风险的 AI 系统，虽然被允许进入欧盟市场，但需要满足一系列要求和义务，如保证数据质量和编制技术文档。此法案还明确了 AI 系统的开发者、提供者和用户的责任，并阐明了 AI 法案与其他现有欧盟立法之间的责任关系。对于某些风险不可接受的 AI 使用，如行为操控、无目标抓取面部图像、情绪识别、社会评分等，将在欧盟范围内被禁止。
禁止行为
具体而言，鉴于某些 AI 应用对公民权利和民主构成的潜在威胁，法案禁止：
1.使用敏感特征（例如政治，宗教信仰，哲学信仰，性取向，种族）的生物特征分类系统；
2.从互联网或闭路电视录像中无目标地抓取面部图像以创建面部识别数据库；
3.在职场和教育机构中进行情绪识别；
4.基于社交行为或个人特征的社交评分；
5.操纵人的行为以规避他们的自由意志的 AI 系统；
6.用于利用人们（由于他们的年龄，残疾，社会或经济状况）的弱点的 AI 系统。
高风险系统的义务
对于被分类为高风险的 AI 系统（由于其可能对健康、安全、基本权利、环境、民主和法治造成的重大伤害），法案制定了明确的义务。欧洲议会议员成功将强制性的基本权利影响评估等要求纳入其中，这也适用于保险和银行业。用于影响选举结果和选民行为的 AI 系统也被视为高风险。公民将有权针对 AI 系统提出投诉，并对基于高风险 AI 系统影响他们权利的决定提出解释。
通用 AI 系统和基础模型
新加入的条款考虑了 AI 系统的多功能性（通用 AI）以及其被整合到高风险系统中的情况。临时法案特别关注了通用 AI 系统。另外，针对那些能够执行多种任务，如视频生成、文本生成和横向语言交流等的大型基础模型，设定了具体的规则。法案规定这些模型在投放市场之前必须遵守透明度义务。对于那些“高影响”的基础模型，法案实施了更严格的措施，以管理这些利用大量数据训练、性能超过平均水平的模型所带来的系统性风险。
面向通用人工智能系统的防护栏
鉴于人工智能系统能够完成的广泛任务和其能力的快速扩展，通用人工智能（GPAI）系统及其依赖的 GPAI 模型，必须遵守最初由议会提出并已达成共识的透明度要求。这包括编制技术文档，遵守欧盟版权法，以及提供用于训练内容的详细摘要。
对于具有系统性风险的高影响力 GPAI 模型，立法者设定了更严格的义务。如果这些模型满足某些条件，它们必须进行模型评估，以评估并减轻系统风险，进行对抗性测试，向委员会报告严重事件，确保网络安全并报告其能源效率。欧洲议会议员还坚持认为，在发布一致的欧盟标准之前，具有系统风险的 GPAI 可能需要依赖行为准则来遵守法规。
新的治理架构
为了响应 GPAI 模型的新规则以及在欧盟层面执行这些规则的需求，欧盟委员会已在内部设立一个 AI 办公室。该办公室负责监督先进 AI 模型，推动标准和测试实践的建立，并在成员国内执行共同规则。一个由独立专家组成的科学小组将为 AI 办公室提供关于 GPAI 模型的咨询，并为评估基础模型能力的方法论的发展做出贡献。由成员国代表组成的 AI 委员会将作为协调平台和咨询机构，在实施法规中发挥包括为基础模型设计实践代码在内的重要作用。此外，将设立一个由利益相关方参与的咨询论坛，为 AI 委员会提供技术支持。
处罚
AI 法案规定，违规的公司将面临罚款，罚款金额取决于该公司上一财年全球年营业额的百分比与固定金额间的较高者。
对于违反禁止 AI 应用规定的行为，罚款上限为 3500 万欧元或年营业额的 7%；对于违反 AI 法案义务的行为，罚款上限为 1500 万欧元或年营业额的 3%；对于提供错误信息的行为，罚款上限为 750 万欧元或年营业额的 1.5%。
对于中小企业和创业公司，临时法案设定了较为宽松的罚款上限。此外，法案规定，任何个人或企业都可以向市场监管机构投诉违反 AI 法案的情况，这些投诉将按照机构的专门程序处理。
执法的豁免
在考虑到执法当局的特殊性和其在关键工作中使用 AI 的需求基础上，临时法案对委员会提案进行了一些修改。这些修改旨在保护措施下，尊重执法活动中敏感数据的保密性。例如，引入了一项紧急程序，允许执法机构在紧急情况下使用未经一致性评估的高风险 AI 工具，确保公民基本权利得到保护，防止 AI 的滥用。
立法者还就一系列保障措施和有限的例外达成了一致，这些例外涉及到在公共空间使用生物特征识别系统（RBI）进行执法，要求事先获得司法授权，并针对严格定义的犯罪类型的嫌疑人或受害人。"后远程" （注：“post-remote”指的是在数据被收集后使用生物识别系统，而不是实时使用。这意味着数据在稍后的时间点进行分析，而不是在收集数据的同时立即进行分析。）RBI 将专用于搜索已判有罪或被怀疑犯下严重罪行的人。"实时" RBI 的使用将受到严格的条件限制，用于搜索受害者（如绑架、贩卖、性剥削案件）、预防特定的恐怖主义威胁，或者定位犯下特定严重罪行的嫌疑人（如恐怖主义、贩卖、性剥削、谋杀、绑架、强奸、持械抢劫、参与犯罪组织、环境犯罪）。
透明度和基本权利保护
根据临时法案，高风险 AI 系统的部署者在投放市场前必须进行公民基本权利影响评估。此外，该法案增强了对使用高风险 AI 系统透明度的要求。法案要求，作为公共实体的高风险 AI 系统的用户，必须在欧盟数据库中注册。新的规定还强调了，情绪识别系统的用户在使用这类系统时，有责任通知个人。
支持创新的措施
为了促进创新友好的法律框架和基于证据的监管学习，临时协议对支持创新的措施进行了显著修改。法案特别强调，AI 监管沙盒应作为一个受控环境，使得创新 AI 系统可以在此开发、测试和验证，并在真实世界条件下进行测试。此外，法案新增了一项规定，允许在特定条件和保护措施下对 AI 系统进行现实世界测试。欧洲议会议员们还希望确保企业，特别是中小企业，能在没有行业巨头过度压力的情况下开发 AI 解决方案。为了实现这一目标，该协议推广了由国家机构建立的监管沙盒和现实测试，以便中小企业在产品上市前开发和训练创新的 AI。
法规动态
临时法案规定，AI 法案将在生效后的两年内开始实施，但某些特定规定会有例外。在法案发布后的未来几周，相关当局将继续在技术层面工作，完善新规定的细节。工作完成后，主席团将会把法案文本提交给成员国代表（Coreper）进行批准。整个文本需得到两个机构的确认，并经过法律语言修订后，才能被共同立法者正式采纳。欧洲议会议员与理事会对该法案达成了政治协议，目标是确保欧洲的 AI 安全、尊重公民基本权利和民主，同时推动企业的繁荣和扩张。
在协议达成后，欧洲议会议员 Brando Benifei（意大利）说：“尽管过程漫长而激烈，但是努力是值得的。多亏了欧洲议会的韧性，世界上第一部关于人工智能的横向立法将履行欧洲的承诺——确保权利和自由位于这项突破性技术的发展中心。议会将继续密切关注，以确保通过沙盒支持新的商业理念，并为最强大的模型制定有效的规则。”
另一位议员 Dragos Tudorache（罗马尼亚）也表示：“欧盟是世界上首个制定了强大 AI 规定的地区，引导其朝着以人为中心的方向发展和进化。AI 法案为大型、强大的 AI 模型设定了规则，确保它们不会对联盟构成系统性风险，并为我们的公民和我们的民主制度提供了强大的保障，以防止公共权力机关滥用技术。它保护了我们的中小企业，增强了我们的创新能力和在人工智能领域的领导地位，并保护了我们脆弱的经济部门。欧洲联盟已经对世界做出了令人印象深刻的贡献；AI 法案是另一个将显著影响我们数字未来的重要立法。”
议员 Brando Benifei 和 Dragos Tudorache，数字化和人工智能国务秘书 Carme Artigas，以及委员 Thierry Breton 在谈判后举行了联合新闻发布会。
该草案必须由议会和理事会正式通过，才能成为欧盟法律。议会和公民自由委员会将在即将举行的会议上对该协议进行投票。我们将持续关注这一法案的立法动态，向您提供最新的法律资讯。
Kaamel 的应对
Kaamel 始终站在隐私保护的前沿，我们坚信通过技术驱动的方式帮助企业识别和解决隐私合规风险。
创新的 Kaamel AI 检测引擎 依托主流法规和监管判例，可以帮助企业快速、全面识别自身的隐私合规风险。Kaamel 也为企业提供全方位的隐私合规解决方案。助力企业在出海业务经营中更加有效地应对监管和用户需求，减轻隐私风险与合规隐患，在国际化市场建立隐私信任。
