大数跨境

域外动态||欧盟委员会发布《人工智能白皮书》,指明未来对人工智能的规制路径

域外动态||欧盟委员会发布《人工智能白皮书》,指明未来对人工智能的规制路径 武大知识产权与竞争法
2020-02-29
6
导读:2020年2月19日,欧盟委员会发布《人工智能白皮书:欧洲追求卓越和信任的路径》,指明对人工智能的未来规制路径。据此,美国科律(Cooley)律师事务所发布了文章,总结了白皮书的要点内容,本文节选、翻

点击上方蓝色文字关注 ↑



编者按:2020年2月19日,欧盟委员会发布《人工智能白皮书:欧洲追求卓越和信任的路径》(WHITE PAPER On Artificial Intelligence - A European approach to excellence and trust,以下简称为《人工智能白皮书》),指明对人工智能的未来规制路径。据此,总部设在美国帕拉奥图市的国际律师事务所:科律律师事务所(Cooley LLP)发表了文章,总结了白皮书的要点内容。本文节选、翻译上述文章,欲获取欧盟委员会白皮书内容,请点击文末原文链接。

《人工智能白皮书》提出的建议意义深远,如果它们被采纳,将对所有人工智能领域的产品制造商和开发者产生重大影响。为应对人工智能可能带来的风险,《人工智能白皮书》提出了在设计阶段和产品上市后阶段应落实的要求,同时革新安全和责任立法的展望。对于某些“高风险”行业,如医疗、交通、能源及特定公共领域,或影响劳动者(以及可能包括消费者)权利的情形,或涉及生物特征识别或监视的情形,可能会施以强制性要求。

欧盟委员会指出,人工智能已经受到欧盟现有立法(包括数据保护法、消费者法、产品安全和责任及其他法律)的规制。然而,现有的欧盟立法可能无法覆盖人工智能带来的所有风险,这暴露出了监管的缺陷和漏洞。

《人工智能白皮书》由两项重要版块构筑:卓越生态系统(ecosystem of excellence)和信任生态系统(ecosystem of trust)。

《人工智能白皮书》中的政策框架载明了可以协调整个欧洲、各个国家和区域的方案。在私营部门和公共部门的合作下,政策框架旨在于从研究和创新开始调动人工智能资源,在整个价值链上实现“卓越生态系统”(ecosystem of excellence),并构建正确的激励机制,加速采纳基于人工智能的问题解决方案,同时关注中小企业(SMEs)的利益。

《人工智能白皮书》同时认为,未来欧洲的人工智能监管框架的关键还在于,创建一个独特的“信任生态系统”(ecosystem of trust),其必须确保人工智能的应用遵守欧盟规则,包括保护基本权利的规则和消费者权利的规则,特别对于在欧盟内运行的、风险较高的人工智能系统而言。搭建“信任生态系统”本身就是一项政策目标,其应使公民有信心接受人工智能的应用,并通过法律的确定性来鼓励私营和公共机构利用人工智能进行创新。欧盟委员会大力倡导以人为本的路径,该路径立足于《关于在以人为本的人工智能中构筑信任的讨论》(Communication on Building Trust in Human-Centric AI),并纳入高级人工智能专家小组编写的伦理准则在试点阶段的成果。


定义

Definition


确立未来监管框架所面临的一个关键问题是:定义人工智能,但目前欧盟的现行立法并未对其进行界定。欧盟委员会指出,面对技术进步以及法律确定性,任何定义都需要具备灵活性。


高风险的应用领域
High-risk applications

欧盟委员会提出了一种风险导向的监管路径。目前拟议的途径是通过穷尽列举各行业领域(例如医疗、交通、能源及特定公共领域),并结合上述应用将对法律权利、人身伤害、死亡或重大物质损害产生重大影响的风险,来确定高风险的应用领域。欧盟委员会还指出了一些始终应被定义为高风险的应用领域,比如影响劳动者(以及可能包括消费者)权利的人工智能应用情形,或用于生物特征识别或监视(biometric identification or for surveillance)的人工智能应用情形。

上述监管路径将在现有欧盟立法的基础上,对人工智能的开发者和使用者提出具有法律约束力的要求。欧盟委员会强调,这将是一条有针对性的路径,不会对现有欧盟立法已足以规制的、被认为风险较低的应用领域,施以任何新增的、额外的行政性负担。


要求

Requirements


欧盟委员会已经确定了一些针对高风险应用领域的强制性要求,其设想的标准将包括下列主要特点:

  • 训练数据(training data)
  • 数据和记录(data and record-keeping)
  • 须提供的信息(information to be provided)
  • 稳健性和准确性(robustness and accuracy)
  • 人工监管(human oversight)
  • 对于特定人工智能应用领域的特定要求,例如针对远程生物识别(remote biometric identification)的要求

欧盟委员会还建议,可能有必要指定供应链中的经济参与者,对上文提出的不同义务承担责任。这不会损害现有的要求生产者对其生产的缺陷产品承担责任的规则。

欧盟委员会设想,上述要求须经过事先的合规性评估,并通过测试、检查或认证的程序。这可能会为中小企业带来沉重的负担。欧盟委员会已认识到,必须建立合适的机制,以确保创新不会受到损害。


安全及责任架构

Safety and liability framework


《人工智能白皮书》附带《关于人工智能、物联网和机器人对安全和责任的影响的报告》(Report on The safety and liability of Artificial Intelligence, The Internet of Things and Robotics),后者评估了人工智能、物联网和机器人对欧盟产品安全和责任立法现有领域的影响,并强调了欧盟委员会认为亟待改进之处。这与欧盟委员会在其《2020年工作计划》中载明的、审查安全和责任立法的工作事项相一致。

欧盟委员会正在考虑具体修订个别欧盟法律,采纳具有针对性的、风险导向的规制路径。


非高风险的应用领域

Non-high risk applications


对于低风险的应用领域,欧盟委员会提出了一项自愿性标签方案(voluntary labelling scheme)。具体途径包括:(1)自愿履行强制性的要求或(2)为自愿加入该方案的主体专门制定类似的要求。加入该方案的主体将被授予质量标签,与其人工智能应用一并使用。


治理

Governance


根据这一方案,各国竞争管理机构将被授予推行及执行未来规制框架的权限。


协商及下一步工作

Consultation and next steps


欧盟委员会正就《人工智能白皮书》提出的建议征求意见,至2020年5月19日为协商期间。这对利益攸关者而言机会宝贵,他们可以表达自己的意见,并决定欧盟于此领域政策的未来。修订现有欧盟产品安全与责任立法所涉及范围可能更广,并且可能会对不包含人工智能或其他数字技术的产品产生影响。

接下来,欧盟委员会预计于2020年年底前提出一项立法建议及其影响评估文件。


翻译:邱越
文章来源:Cooley LLP
点击阅读原文,获取白皮书全文

涉及文章内容转载等事宜请联系

微信公众号后台编辑:邱越

邮箱:cptlaw@163.com

手机:13006131838

【声明】内容源于网络
0
0
武大知识产权与竞争法
知识产权与竞争法学术资源交流平台。本公号依托武汉大学知识产权与竞争法研究所,并与知识产权与竞争法网站互补,致力于为学界同仁、法律实践部门和社会公众推介与知识产权和竞争法学科相关的知竞要闻、重磅成果和特色策划。
内容 1795
粉丝 0
武大知识产权与竞争法 知识产权与竞争法学术资源交流平台。本公号依托武汉大学知识产权与竞争法研究所,并与知识产权与竞争法网站互补,致力于为学界同仁、法律实践部门和社会公众推介与知识产权和竞争法学科相关的知竞要闻、重磅成果和特色策划。
总阅读3.3k
粉丝0
内容1.8k