历经两年多的讨论以及欧盟三大机构间紧张的最终三方谈判，《人工智能法案》的政治协议于2023年12月9日达成。这意味着《人工智能法案》基石已达成一致，但立法程序尚未结束。
关于法案最终措辞的进一步技术性谈判将在未来几个月内持续进行。本文将简要总结已达成一致的要点、下一步预期以及实施人工智能解决方案的企业现应为保持合规而开展的工作。
人工智能的定义
“人工智能系统是一种基于机器的系统，旨在以不同程度的自主操作，部署后可能表现出适应性，并针对明确或隐含目标，从其接收到的输入中推断如何生成诸如预测、内容、建议或能够影响实际或虚拟环境的决策等输出。”
高风险人工智能系统的分类以及遭禁止的应用
-
遭禁止的人工智能应用 《人工智能法案》禁止对公民权利和民主构成不可接受风险的部分应用。欧盟决策者达成协议，禁止使用敏感特征（如政治信仰、种族）的生物识别分类系统、从互联网或监控视频中无差别抓取面部图像、在工作场所和教育机构中的情绪识别、社会评分、操纵人类行为以规避人类自由意志的人工智能系统、利用人类弱点（由于其年龄、失能、社会或经济状况）的人工智能以及部分针对个人的预测性警务执法。 在公共场所的实时生物远程识别是清单中争论最多的问题之一。最终达成的妥协协议允许人工智能系统用于某些例外执法情况，例如防止恐怖袭击。 -
高风险人工智能系统 高风险人工智能系统的最终清单与联席立法委员在立法过程中提出的清单高度一致，不过，欧盟决策者允许部分人工智能系统通过自我评估豁免于高风险分级。豁免适用于不会对人类健康、安全或基本权利构成重大风险（包括不会实质性影响决策结果）的人工智能系统。豁免必须满足以下四种可能情况之一：人工智能系统旨在（1）执行狭义程序性任务；（2）改进先前已完成的人类活动结果；（3）检测决策模式或与先前决策模式间的偏差，且不会在没有适当的人工审查下取代或影响先前已完成的人工评估；或（4）执行与《法案》附件中列出的确认高风险应用相关的评估的准备工作。尽管如此，被列为高风险的人工智能系统在执行自然人特征分析时始终被视为高风险，不得豁免。 除其他要求外，欧洲议会成员成功要求高风险系统进行强制性基本权利影响评估。被视为高风险的人工智能系统还需要遵守透明度、数据治理和人类监督的要求。
规范通用人工智能/生成式人工智能/基础模型
根据《人工智能法案》，如果GPAI模型在训练中使用的计算资源达到了某个阈值，则该模型将被推定为具有系统性风险。欧盟委员会已获授权，通过授权法案修改阈值并在考虑技术发展后纳入其他标准。目前预计不会对基础模型制订单独的罚款规则，基础模型将受与高风险人工智能系统相同的罚款制度约束（见下文）。
治理和罚款
罚款将根据侵权类型而定，额度为预先确定的金额或基于企业上一财政年度全球年营业额的百分比确定（以较高者为准）。如果违反关于禁止行为的规则，企业可能会被处以高达3500万欧元或其全球年营业额7%的罚款。如果违反《人工智能法案》规定的一般义务，罚款最高可达1500万欧元或其全年营业额的3%。如果企业提供的信息有误，罚款最高可达750万欧元或其全年营业额的1.5%。此外，政治协议拟议针对中小企业和初创企业的行政罚款设置更多比例上限。
企业应采取的行动
-
界定人工智能应用案例和企业角色：审查企业计划或实施的人工智能应用案例是否属于《人工智能法案》规定的监管类别，尤其是高风险或GPAI类别。如属于，确定企业在此方面担任的角色，因为最为繁重的合规义务将由人工智能系统的提供者承担，而部署者/使用者和进口者的合规义务较轻。企业在人工智能价值链中的角色可能并不总是很明确，《人工智能法案》的最终措辞有望在此方面带来更多法律明确性。同时，尽快确定并记录企业角色将有助于应对客户、供应商或有关部门未来的问责要求。 -
透明度义务：《人工智能法案》规定了不同级别人工智能系统的透明度义务，包括使用有限风险人工智能系统的透明度义务（例如在网站上使用的聊天机器人需要相应标注以告知网站访问者关于人工智能的使用，公布关于GPAI系统和模型训练所用的内容摘要）。此外，大多数欧盟成员国有关消费者使用人工智能的透明度原则已经生效（基于消费者保护和不公平竞争法原则），因此，企业应当检查是否已经在面向消费者的系统中纳入使用人工智能的透明度信息。 -
人工智能治理：开始在企业中实施人工智能治理结构，以支持企业应对即将到来的监管要求。企业可以聚集来自法律、业务、技术和风险职能部门的所有利益相关者，借助跨部门联合的方式，从一开始就将监管要求落实到企业生产周期以及内外部服务和产品当中。
|
合伙人，香港 richard.bird@freshfields.com |
 |
麦景添（Tim Mak） 合伙人，香港 tim.mak@freshfields.com |
 |
李凡 fan.li@freshfields.com |
往期回顾
THE END
 富而德成立于1743年，是国际律师事务所中的翘楚，也是历史最为悠久的顶级国际律所。本所拥有超过400位合伙人和超过3100名律师组成的网络，覆盖全球15个国家的27个重要商业中心。本所在大中华区及亚洲其他国家、欧洲、中东和美国均设有办事处，我们紧密合作为您提供领先业界的法律服务。 本文仅载列一般资料，并非旨在提供法律意见。 本文提供者为国际律师事务所富而德律师事务所有限责任合伙制机构（Freshfields Bruckhaus Deringer LLP）（一家根据英格兰及威尔士法律组建并受英国律师监管局规管的有限责任合伙制机构）（下称“英国有限责任合伙制机构”）以及在一系列司法管辖区以富而德律师事务所（Freshfields Bruckhaus Deringer）名义执业的英国有限责任合伙制机构的办事处和联属实体以及富而德律师事务所美国有限责任合伙制机构（Freshfields Bruckhaus Deringer US LLP）（在本文中合称“富而德”）。关于监管信息，请参阅网页www.freshfields.com/support/legalnotice。 |