欧洲议会周三投票通过《人工智能法案》，确保欧盟在制定广泛的人工智能软件规则方面占据领先地位——地区立法者将其称为“全球首部全面的人工智能法”。
欧洲议会议员以压倒性多数支持去年十二月在三边会谈中与欧盟理事会达成的临时协议，523票赞成，仅46票反对（49票弃权）。
这项具有里程碑意义的立法为人工智能设定了基于风险的框架；根据用例的风险等级适用不同的规则和要求。
今天的全院投票此前已得到委员会积极投票的支持，以及上个月所有27个欧盟成员国大使对临时协议的背书。全院投票的结果意味着《人工智能法案》正迅速走向在该地区成为法律的道路——仅剩欧盟理事会的最终批准。
🇪 民主：1️ | 游说：0️⃣ 我欢迎欧洲议会对我们#AIAct 的大力支持——这是全球首个关于可信人工智能的全面、具有约束力的规则。欧洲现在已成为人工智能领域的全球标准制定者。我们遵循尽可能少监管、但必要处绝不缺席的原则！
在未来几个月于欧盟官方公报上公布后，《人工智能法案》将在公布后20天生效。尽管实施是分阶段的，首批条款（禁止的用例）将在六个月后生效；其他条款分别在12个月、24个月和36个月后适用。因此，全面实施预计要到2027年年中才能实现。
在执行方面，违反禁止使用人工智能规定的处罚可高达全球年营业额的7%（或3500万欧元，以较高者为准）。而违反其他有关人工智能系统的规定，可能面临高达3%（或1500万欧元）的罚款。不配合监管机构的行为则可能面临高达1%的罚款。
以人为本：技术赋能而非替代
在全院投票前的周二辩论中，《人工智能法案》的共同报告人、欧洲议会议员德拉戈什·图多拉基（Dragoș Tudorache）表示：“我们将构成社会基础的基本价值观永远与人工智能的概念联系在一起。仅此一点，《人工智能法案》就将人工智能的未来推向了以人为本的方向。在这个方向上，人类掌控技术，而技术帮助我们发掘新发现、促进经济增长、推动社会进步并释放人类潜力。”
基于风险的分级监管体系
这一基于风险的提案最初由欧盟委员会于2021年4月提出。随后，欧盟共同立法机构——欧洲议会和欧盟理事会——在多年的谈判过程中对其进行了重大修改和扩展，最终在去年十二月的马拉松式最终谈判后敲定了政治协议。
根据该法案，少数几种潜在的AI应用场景被视为“不可接受的风险”并被全面禁止（例如社会评分或潜意识操控）。该法律还定义了一系列“高风险”应用（例如用于教育或就业的AI，或用于远程生物识别的AI）。这些系统必须进行注册，其开发者必须遵守法律中规定的风险和质量管控条款。
欧盟基于风险的方法将大多数AI应用排除在法律监管之外，因为它们被视为低风险——没有硬性规则适用。但立法也对第三类应用施加了一些（轻度）透明度义务，包括AI聊天机器人；能够创建合成媒体（即深度伪造）的生成式AI工具；以及通用目的AI模型（GPAI）。如果最强大的GPAI被归类为具有所谓的“系统性风险”，它们将面临额外的规则——这是触发风险管理义务的门槛。
GPAI监管博弈与妥协
GPAI的规则是后来添加到《人工智能法案》中的，由关切的欧洲议会议员推动。去年，议会中的立法者提出了一套分层的要求体系，旨在确保负责近期生成式AI工具繁荣浪潮的先进模型不会逃避监管。
然而，在法国的带领下，少数几个欧盟成员国却朝着相反的方向推进——这受到本土AI初创企业游说的推动（例如Mistral），主张为先进AI模型制造商争取监管豁免，理由是欧洲应专注于扩大在该快速发展的领域中的国家冠军企业规模，以免在全球AI竞赛中落后。
面对激烈的游说，立法者在十二月达成的政治妥协削弱了欧洲议会议员最初关于监管GPAI的提案。它并未给予法律完全豁免，但这些模型大多只面临有限的透明度要求。只有那些训练过程中使用的算力超过10^25 FLOPs的GPAI才可能需要对其模型进行风险评估和缓解。
自妥协协议达成以来，又出现了这样的情况：Mistral已接受了微软的投资。这家美国科技巨头在OpenAI中持有更大的股份，后者是美国ChatGPT的制造商。
在今天全体会议投票前的新闻发布会上，两位联合报告员被问及Mistral的游说活动——以及这家初创公司是否成功削弱了欧盟对通用人工智能（GPAI）的规则。“我认为我们可以达成共识，结果不言自明，”Brando Benifei回答说。“立法正在通过明确的标准，清晰地界定最强大模型的安全需求……我认为我们提供了一个清晰的框架，将确保最强大模型的透明度和安全要求。”
Tudorache也驳斥了游说者对法律最终形态产生负面影响的说法。“我们进行了谈判，并做出了我们认为合理的妥协，”他说，称这一结果是“必要”的平衡。“企业的行为以及它们选择做什么——这是它们的决定——在任何方面都没有影响我们的工作。”
他补充道：“所有开发这些模型的人都有兴趣在涉及输入这些算法的数据时保持‘黑箱’状态。而我们提倡透明的理念，特别是针对受版权保护的材料，因为我们认为这是实现作者权利的唯一途径。”
Benifei还指出，《人工智能法案》中增加的环境报告要求是另一项胜利。
未来展望：持续演进与国际合作
议员们表示，《人工智能法案》代表了欧盟治理人工智能旅程的开始——强调该模式需要随着未来额外立法的扩展而不断演变，Benifei指出需要一项指令来制定职场中使用人工智能的规则。
他说，还需要努力改善人工智能投资的条件。“我们希望欧洲投资于人工智能。为共同研究做更多工作。在共享计算能力方面做更多工作。超级计算机的工作……同样重要的是要强调完成资本市场联盟的必要性——因为我们需要能够比今天更[容易]地投资于人工智能。我们今天面临的风险是，一些投资者宁愿投资于美国，而不是另一个欧洲国家或另一家欧洲公司。”
Tudorache补充道：“这项法案只是更长旅程的开始，因为人工智能的影响不仅仅能通过这项《人工智能法案》来衡量——它将对教育体系产生影响，将对我们的劳动力市场产生影响，将对战争产生影响。因此，那里有一个全新的世界正在开启，人工智能将在其中发挥核心作用。因此，从现在开始，随着我们构建源自该法案的治理结构，我们必须非常关注技术的这种未来演变，并准备好应对由此技术演变带来的新挑战。”
Tudorache还重申了他去年提出的呼吁：在志同道合的政府之间，乃至更广泛地，在任何能够达成协议的领域，共同开展人工智能治理工作。
“我们仍有责任努力尽可能实现互操作性——保持开放，与尽可能多的民主国家以及众多志同道合的伙伴共同构建治理体系。因为技术是一个整体，无论你身处世界的哪个角落。因此，我们必须投资于将这一治理体系整合到一个合理的框架中。”
欧盟立法者在深夜就‘全球首个’人工智能规则达成协议
欧盟表示，即将出台的一般用途人工智能规则可以随时间推移而演变