欧盟将更新产品责任法，以应对人工智能系统造成损害的风险，并解决由数字设备（如无人机和智能设备）引发的其他责任问题。
司法委员迪迪埃·雷恩德斯在提出对长期存在的欧盟产品规则进行修订的提案时指出，该提案包括一项专门的《AI责任指令》，强调需要对法律框架进行现代化改造，以考虑一般的“数字化转型”以及人工智能特有的“黑箱”可解释性挑战，从而确保消费者能够就现代产品造成的损害获得救济。
欧盟委员会的执行机构还认为，其方法将为企业带来法律确定性，并有助于培养（消费者）对其产品的信任。
雷恩德斯在新闻发布会上讨论《人工智能责任指令》时表示：“当前的责任规则无法处理由人工智能驱动的产品和服务造成的损害索赔。我们必须改变这一现状，确保所有消费者都能得到保护。”
核心措施：披露要求与因果关系推定
该指令包含两项主要措施：披露要求和可反驳的因果关系推定。
他建议：“通过这些措施，受害者将有机会在法庭上有效证明其合理责任索赔的有效性。因为只有当各方在法官面前拥有平等的工具来陈述案情时，获得司法救济的基本权利才能真正生效。”
“我们的提案将确保合理的索赔不会因与人工智能相关的特定举证困难而受阻。”
欧盟委员会的人工智能责任提案将其保护措施应用于个人和企业，而不仅仅是消费者。
而在归责方面，草案的范围并不局限于人工智能系统的原始制造商；相反，如果因错误或遗漏导致损害，责任风险涵盖制造商、开发者或使用者。因此，与仅针对“高风险”人工智能系统的早期《AI法案提案》相比，其适用范围更为广泛，因为它不仅限于生产者，而是将责任扩展至整个供应链。
这是一个有趣的差异——尤其是考虑到某些民间社会对《人工智能法案》缺乏个人在受到人工智能负面影响时寻求救济的权利和途径的批评。
委员会的反驳似乎是，如果人们受到人工智能的伤害，它将使起诉变得更加容易。（在关于《AI法案》与责任指令之间联系的《Q&A》中，委员会写道：“以安全为导向的规则主要旨在降低风险并防止损害，但这些风险永远不会被完全消除。需要责任条款来确保在风险转化为损害的情况下，赔偿是有效且现实的。虽然《AI法案》旨在防止损害，但《AI责任指令》为损害发生时的赔偿提供了安全网。”）
“原则很简单，”雷恩德斯谈到《人工智能责任指令》时说。“新规则适用于因依赖人工智能技术运作的产品造成损害的情况”，并且这种损害是由制造商、开发者或该技术用户犯下的错误所导致的结果。
他举了一个例子：一名无人机操作员在配送包裹时未遵守特别涉及人工智能的用户说明，从而导致损害，这种情况将被涵盖。或者，一家未对使用人工智能的招聘服务应用“基本补救措施”的制造商。又或者，一名向配备人工智能的移动机器人发出错误指示的操作员——随后该机器人撞上了一辆停放的汽车。
他说，目前，由于他描述的“这些技术的晦涩性、独特性和极端复杂性”，很难就此类人工智能产品获得责任赔偿。
该指令提出通过赋予受害者获取由人工智能系统生成的文件或记录数据以构建其案件的能力——即披露权——来绕过“人工智能的黑箱”，同时也制定了保护商业敏感信息（如商业秘密）的规定。
该法律还将引入可反驳的因果关系推定，以缓解与复杂人工智能系统相关的“举证负担”问题。
他解释说：“这一[推定]意味着，如果受害者能够证明责任人因未履行某项义务——例如《人工智能法案》的要求，或欧盟或国家法律规定的避免损害发生的义务——而构成欺诈，法院可以推定该违规行为导致了损害。”
他补充说，潜在的责任人若能证明其他原因导致人工智能引发损害，则可以推翻这一推定。
雷登斯接着表示：“该指令涵盖各成员国现行国内法中予以赔偿的所有类型的损害——例如导致人身伤害、物质财产损害或歧视的问题。”他补充道：“该指令将惠及所有受害者。”
行业影响与隐私诉讼前景
国际律师事务所奥斯本克莱克（Osborne Clarke）的人工智能主管约翰·拜尔斯（John Buyers）在一份声明中就提案的这一方面发表评论称：“《人工智能法案》与拟议的新责任推定之间存在非常有意为之的互动关系，将违反欧盟计划中的监管制度与面临更高的损害赔偿诉讼风险联系起来。索赔方无需再证明人工智能系统造成了所遭受的损害；只要他们能证明违反了《法案》（或某些其他监管要求），即可受益于损害案件成立的推定。随后举证责任将转移至被告，由其证明其系统并非造成损害的原因。”
他补充说：“索赔方有可能获取被告的监管合规文件以支持其索赔，这可能会为这些技术文件的撰写方式增添一层战术考量。”他坦言：“毫无疑问，人工智能行业——至少就《法案》归类为高风险的应用而言——需要投入时间和精力来确保符合新《法案》，并思考如何最好地保护自身利益。”
在一份《Q&A》中，委员会进一步明确规定，新的人工智能责任规则将涵盖“国内法涵盖的任何类型的损害（生命、健康、财产、隐私等）”——鉴于人工智能传播得如此广泛（以及数据矿工获取人们信息的速度和随意程度），这引发了一个有趣的前景，即隐私诉讼（在欧洲现行法律框架下 notoriously difficult to pull off）potentially可能得到推动。
根据即将生效的指令，Facebook是否会因行为画像和广告定向带来的隐私侵害而被起诉？这是一个值得思考的问题。
尽管如此，委员会对修订后的责任框架赋予公民因基本权利受侵而直接起诉索赔这一观念泼了冷水，在声明中写道：“新规则不允许对基本权利受侵行为进行赔偿，例如某人因歧视性AI招聘软件而在求职面试中落选。目前正在谈判的《人工智能法案》草案旨在防止此类侵权行为的发生。如果此类侵权仍然发生，人们可以依据国家责任规则寻求赔偿，拟议的《人工智能责任指令》可为此类索赔提供协助。”
但其对此问题的回应也明确指出，针对“数据丢失”可能提起损害赔偿诉讼。
适用范围不限于高风险AI及数字化产品责任更新
尽管雷登斯在今天举行的新闻发布会上提到了《人工智能法案》中包含的“高风险”人工智能类别——似乎暗示责任指令将仅限于这一狭窄的人工智能应用子集——但他表示，这并非欧盟委员会的实际意图。
他说：“当然，这里指的是我们在《人工智能法案》中列入的高风险产品，但如果有关于其与损害之间联系的确凿证据，则有可能超越这一范围。”他补充道：“因此，这并不是将适用范围局限于高风险应用——这只是首次提及，且该提及与《人工智能法案》相关联。”
今天同时通过的欧盟现行《责任指令》修订案——为《人工智能责任指令》中围绕人工智能产品制定统一规则铺平道路——还包括一些进一步现代化措施，重点针对数字产品的责任规则，例如：当机器人、无人机或智能家居系统等因软件更新而变得不安全时，允许就损害进行赔偿；或因运营该产品所需的数字服务（或人工智能）导致不安全时；以及制造商未能解决网络安全漏洞时。
本月早些时候，欧盟公布了《网络弹性法案》计划，为智能产品在其整个生命周期内实施强制性的网络安全要求。
拟议的对可追溯至1985年的欧盟产品责任规则的修订，还旨在考虑源自循环经济商业模式的产品——即产品经过修改或升级的情况。欧盟表示，希望创造法律确定性，以支持循环经济，这也是其更广泛推动绿色转型的一部分。
内部市场专员蒂埃里·布雷通在一份声明中表示：“《产品责任指令》四十年来一直是内部市场的基石。今天的提案将使其能够应对未来几十年的挑战。新规则将反映全球价值链，促进创新和消费者信任，并为参与绿色和数字转型的企业提供更强的法律确定性。”
委员会的产品责任提案现在将进入欧盟的共同立法程序，这意味着它们将由欧洲议会和理事会进行辩论并可能进行修改，如果该一揽子政策要成为欧盟法律，两者都需要同意这些变更。因此，该政策包可能发生的变化仍有待观察。
欧盟的提案不涵盖由人工智能系统造成的无过错/非故意伤害，但委员会表示，将在该指令生效五年后审查这一立场。
Osborne Clarke的Buyers补充道：“不可预见的结果——即所谓的‘边缘案例’——是机器学习AI系统的潜在风险之一，令人感兴趣的是这究竟会成为一个理论问题还是一个实质性问题。”
《人工智能法案》在欧盟立法程序中进展相对缓慢——我们肯定不指望它在2023年底之前成为法律，此后还将有一段合规期，可能为两年，但仍在辩论中。另一方面，监控需要做哪些工作非常重要，以便企业能够在资源分配和工作规划方面提前做好准备。”
本报告已添加额外评论进行更新
欧盟揭晓智能设备安全计划
欧洲提出扩展生态设计规则及数字产品护照计划