本文约2300字，全文阅读须3分钟，文末有惊喜。
在人工智能（AI）快速发展的今天，全球监管显得尤为重要。欧盟（EU）在这一关键时刻发布了《2024年欧盟人工智能法案》（简称“EU AI法案”或“法案”），这是一项全面的立法框架，旨在应对AI技术商业化和应用过程中可能出现的风险，重塑AI治理格局。
随着欧盟继续引领全球AI监管的广泛讨论，我们将对这项具有里程碑意义的立法进行深入解析，探讨其复杂细节和深远影响。
1）解读法案：
《欧盟人工智能法案》采用了一种多方面的AI治理方法，涵盖了从风险评估到问责机制等多个方面.
a) 关键条款
i.风险分层：法案的核心在于其精细的基于风险大小的分类系统，将AI应用分为四个层级：不可接受的风险、高风险、有限风险和最小风险。这种分层基于AI系统对基本权利、安全和社会价值的潜在影响。[1]
ii.禁止的做法和道德标准：法案第4条明确禁止某些被认为与欧盟价值观和基本权利不兼容的做法。这些做法包括用于政府监控的社会评分，以及设计用于利用人类脆弱性或操控人类行为、对个人或社会有害的AI系统。[2]
iii.高风险监管框架：对于被分类为高风险的AI系统，法案有着严格的要求，以减轻潜在危害并确保问责机制。法案要求开发者进行彻底的风险评估，遵守透明度和文档标准，并实施强有力的人工监督机制。[3]此外，这些系统在进入市场前需经过指定机构的合格评估。
iv.透明度和问责措施：透明度是贯穿整个法案的主题，强调知情权和问责的重要性。开发者必须提供关于AI系统的能力、限制和预期用途的清晰准确的信息。此外，第9条规定的严格文档要求旨在促进监管和问责机制。[4]
v.执行机制和法律追责：该法案的执行将由多个不同机构分担。[5]在欧盟层面，欧盟委员会设立了 AI 办公室，帮助协调成员国家或地区之间法案适用的一致性。AI 办公室还将直接执行 GPAI（通用人工智能） 规则，能够对组织进行罚款，并强制采取纠正措施。各个成员国家或地区将指定国家级主管机构来执行所有非 GPAI 法规。该法案要求每个国家或地区成立两个不同的机构：市场监督机构和通知机构。市场监督机构应确保组织遵守《欧盟 AI 法案》，他们可以听取消费者的投诉，调查违规行为，并对组织进行罚款。通知机构应监督对新的高风险 AI 产品进行合规性评估的第三方。
b) 相关处罚
使用禁用 AI 做法的组织将被处以高达35,000,000 欧元或全球营业额7%的罚款，以较高者为准。
对于其他违规行为，包括违反 GPAI 规则的行为，该组织可能会被处以高达15,000,000 欧元的罚款或全球营业额的3%的罚款，以较高者为准。
如向权力机构提供不正确或误导性的信息，该组织可能会被处以高达7,500,000欧元或营业额1%的罚款，以较高者为准。
值得注意的是，《欧盟人工智能法案》对初创企业和其他小型组织的罚款有不同的规定。针对这些企业，罚款金额为两个可能金额中的较低者。这与该法案的总体方向一致，即确保要求不会过于繁重，不至于将小型企业排除在 AI 市场之外。
c) 弱点
i. 合规复杂性：对于被分类为高风险的AI系统，遵守法案的规定可能对开发者和组织构成重大挑战，因为法案对高风险的AI系统的要求十分复杂且伴随着较大的行政负担。
ii. 影响创新：虽然法案旨在防范潜在危害，但其严格的监管框架仍可能无意中阻碍创新，尤其是对中小企业和初创公司来说。
iii. 执行效力：法案中规定的执行机制的有效性尚待观察，关于执行的实际操作性及制裁措施是否足以有效威慑不合规行为仍存在疑虑。
2) 未来展望：欧盟引领科技监管
《欧盟人工智能法案》的通过进一步巩固了其在科技监管方面的领导地位。该法案的主要发起者之一、欧洲议会议员图多拉奇（Dragos Tudorache）表示，法案从起草初期就“仔细考虑”了对全球各国政府的影响。他指出，其他国家在起草自己的人工智能法规时，常常参考欧盟的做法。“这项立法将成为许多其他司法管辖区的标准和模式，”他说，“因此，我们在起草时必须格外谨慎，因为它将影响许多其他司法管辖区。”
与美国相比，欧盟在科技立法方面行动更快且更广泛。例如，GDPR（通用数据保护条例）迫使微软等公司改变处理欧洲用户数据的方式。然而，频繁的科技立法也带来了高昂的合规成本，可能阻碍小企业的发展。美国则在人工智能立法方面进展缓慢，即便拜登政府曾表示要“整顿”科技行业，但到目前为止并无实质性行动。
对欧盟的企业尤其是从事高风险AI系统研发和应用的企业来说，他们将面临更严格的监管要求，可能需要重新审视业务模式和产品策略以适应新的监管环境。这些调整有助于提高AI行业的规范性和透明度，减少不合规行为，提升行业形象，从而吸引更多投资和人才。然而，技术的不断进步和应用领域的扩展将带来新的监管挑战，未来欧盟和各国政府需要继续加强AI技术的监管和研究，以确保其安全、合规地服务于社会。
展望未来，随着法案的实施，其影响将波及各个行业，显著影响AI创新和应用的进程，不仅在欧洲内部，还会延伸至全球。利益相关者将在一个多层次的监管环境中探索，这一环境充满了多种利益、伦理困境和技术不确定性。
3) 结论
《欧盟人工智能法案》的出台标志着AI治理新时代的到来，法案强调透明度、问责制和以人为本的核心原则。随着欧洲进入这一未知领域，中国海外投资者需保持持续的注意、适应和沟通。
联系电话：+86 21 31200806
邮箱：inquiry@lawpurpose.com
地址：上海市静安区愚园路108号7层728
私信我们免费获取最新出海报告。
[1] 《欧盟人工智能法案》 [2] 同上 [3] 《欧盟人工智能法案》第7条 [4] 《欧盟人工智能法案》第10条 [5] 《欧盟人工智能法案》第9条
