欧洲议会投票确认了其在《人工智能法案》谈判中的授权，这是一个重大里程碑，为迈向全欧盟人工智能规则书的下一阶段谈判铺平了道路。
议员们支持对委员会提案的修订版，该版本扩大了规则书的范围，旨在确保在欧洲开发和使用的AI“完全符合欧盟的权利和价值观，包括人类监督、安全、隐私、透明度、非歧视以及社会和环境福祉”。
议员们支持的变更中包括全面禁止远程生物识别监控和预测性警务。他们还增加了一项禁令，禁止“从互联网或闭路电视（CCTV） footage 中无差别抓取面部图像以创建面部识别数据库”，基本上是对 Clearview AI 及其同类公司的严格禁止。
拟议的远程生物识别监控禁令将适用于实时或事后应用如面部识别等技术，但在后一种情况下，例外是司法批准的严重犯罪起诉执法部门。
议员们还禁止执法部门、边境机构、工作场所和教育机构使用情绪识别技术。
议员们还将高风险人工智能系统的分类扩大，包括那些对人类健康、安全、基本权利或环境构成重大危害的系统，以及用于影响选民和选举结果的人工智能系统。
议员们还将使用算法推荐内容的大型社交媒体平台列入高风险名单。
全体会议的投票是在上个月委员会支持修订后的提案之后进行的，当时来自不同政治团体的议员们详细讨论了如何调整委员会文本，包括增加所谓通用人工智能制造商的义务。
为了应对生成式AI的快速 developments，议员们支持对基础/通用AI模型（如支撑OpenAI的AI聊天机器人ChatGPT的技术）施加一套义务，要求此类系统在投放市场前必须识别并缓解风险，同时对AI生成的内容应用透明度披露，并实施防止生成非法内容的保障措施。
根据议员们的提案，通用AI制造商还必须发布用于训练其模型的受版权保护信息的“详细摘要”。
在上个月访问欧洲各国首都与立法者会面期间，OpenAI首席执行官 Sam Altman 对欧盟提案的这一方面表示批评。他暗示，如果无法遵守规定，公司可能不得不在该地区撤回服务，并告诉记者他希望这些义务能够被撤销。
事实上，今天的全体会议投票显示，议员们以压倒性多数支持经过修订的立法草案版本——包括针对通用人工智能的拟议义务——其中499票赞成，仅28票反对（另有93票弃权）。
此次投票通过授权意味着议会与欧盟成员国政府之间的讨论现在可以启动，首次三方会谈定于今晚举行。
鉴于我们刻不容缓，关于 #AIAct 的三方会谈将于今晚在斯特拉斯堡开始 🇪🇺
在投票后发表声明时，共同报告人 Brando Benifei 表示：
今天全世界都在关注我们。当大型科技公司对其自身创造的技术发出警报时，欧洲已经先行一步，提出了应对人工智能日益显现的风险的具体方案。我们希望利用人工智能在创造力和生产力方面的积极潜力，但我们也将在与理事会的谈判中努力保护我们的立场，并抵御对我们民主和自由的威胁。
在另一份支持性声明中，共同报告人 Dragos Tudorache 补充道：
《人工智能法案》将为全球人工智能的开发和治理定下基调，确保这项将通过其巨大益处彻底改变我们社会的技术，按照欧洲民主、基本权利和法治的价值观进行发展和使用。
议员们今天支持的《人工智能法案》版本还增加了对研究活动以及根据开源许可提供的 AI 组件的豁免条款，议员们认为这将有助于促进创新，同时还将建立用于测试系统的监管沙盒框架。
议员们的提案还增加了一系列关于 AI 决策的消费者权利，包括如果 AI 系统造成损害，消费者有权要求集体救济。
欧洲消费者组织 BEUC 对这些变化表示欢迎，但对议会未支持全面禁止使用情感识别 AI 提出批评，因为该提案并未限制此类“忽悠”技术的商业使用。它还认为，欧洲议会议员赋予了开发者过多的自由裁量权来决定其系统是否属于高风险类别，这可能会削弱基于风险框架的有效性。
在三方会谈期间，这可能会成为争议的焦点之一。三方会谈需要在欧盟理事会（由成员国政府组成的机构）和议会立法者之间寻求妥协，以就最终文本达成必要的政治协议并结案。
通常情况下，欧盟理事会更倾向于支持产业界，而议会则更关注基本权利。因此，双方将在何处就人工智能监管达成中间立场，仍有待观察。
如果双方无法达成一致，欧盟的立法进程可能会停滞甚至失败。但鉴于全球目前高度关注人工智能监管，布鲁塞尔方面有动力推动该文件顺利通过。率先制定民主的人工智能规则书，为欧盟提供了在其边界之外施加影响力的机会，因为其他司法管辖区正急于探索应对这一快速发展的复杂技术领域的方法。
欧盟理事会早在去年12月就通过了该文件的立场。当时，成员国普遍倾向于将通用人工智能的处理方式推迟到额外的实施立法中。然而，鉴于 interim 期间发生的变化，像 ChatGPT 这样的生成式人工智能工具已跃升至技术讨论的中心舞台，并引发了多次监管呼吁（包括来自众多科技行业人士自身的呼吁），令人感兴趣的是，成员国是否会与欧洲议会议员就需将此类人工智能系统的义务添加到《人工智能法案》文本中的必要性达成一致。
欧盟委员会早在2021年4月就提出了基于风险的人工智能框架的原始提案。虽然那份最初的委员会草案文本并未深入探讨通用人工智能的话题，但它确实提出了针对聊天机器人和深度伪造技术的透明度条款。因此，即便在当时，欧盟立法者就认为消费者应被告知他们正在与机器生成的内容进行交互。
尽管委员会对《人工智能法案》文件的三方会谈能在今年年底前达成政治协议仍抱有希望，但仍会有一个实施期，因此该立法可能不会在2026年之前生效。
这就是为什么欧盟还在推进几项自愿倡议，旨在促使人工智能公司在 meantime 自行规范安全事宜。
欧盟立法者支持生成式AI的透明度和安全规则