大数跨境

最高法出手:AI换脸、大数据杀熟怎么赔?24条新规一次讲清

最高法出手:AI换脸、大数据杀熟怎么赔?24条新规一次讲清 上海乐川律师事务所
2026-09-10
4
导读:前言刷到过这样的视频吗?逝去的亲人在屏幕里"复活",开口说话;某个"明星"在直播间卖力带货,声音以假乱真;老客户登录平台,看到的价格反而比新用户贵出一截。




前言


刷到过这样的视频吗?


逝去的亲人在屏幕里"复活",开口说话;某个"明星"在直播间卖力带货,声音以假乱真;老客户登录平台,看到的价格反而比新用户贵出一截。


这些魔幻场景背后,是同一个问题:AI闯了祸,谁来负责?


2026年9月7日,最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》(法发〔2026〕10号,下称《意见》)。


这是我国首部由最高审判机关出台的涉人工智能司法裁判规则文件,共5部分24条,把AI换脸拟声、网络开盒、大数据杀熟、仿冒名人带货、自动驾驶事故这些争议已久的"老大难",一次讲清。


本文将从律师视角,对《意见》的核心条款进行解读,并提出实务建议。



一、《意见》内容总体框架

《意见》是最高法以"法发"字号印发的司法指导性文件,不属于司法解释。它不能直接作为判决依据,但全国法院审理涉AI案件必须贯彻其中的裁判理念,裁判文书可以在说理部分引用。


《意见》分为5个部分:

第一部分(第1-2条) :明确审理涉人工智能纠纷案件的指导思想和基本原则——坚持以人为本、支持创新发展、筑牢安全底线。

第二部分(第3-11条) :明确涉人工智能侵权责任的归责原则,针对侵害人格权、个人信息权益、消费者权益等不同场景明确责任认定和承担。

第三部分(第12-16条) :对涉人工智能知识产权纠纷案件作出专门规定。

第四部分(第17-20条) :探索完善审理程序规则、依法惩治违法犯罪行为。

第五部分(第21-24条) :健全完善涉人工智能纠纷案件审理和工作机制。



二、新规解读

规则1:AI换脸拟声、"复活"逝者——不是灰色地带,是侵权(第4条)


《意见》划得很清楚:

  • 未经同意,用AI生成可识别特定自然人的虚拟数字形象并使用、公开的,侵害姓名权、肖像权等人格权益;

  • 未经同意,用自然人声音作为训练语料,模仿其音色、语调、发音风格生成合成人声的,侵害声音权益;

  • 操控虚拟形象、合成声音发表不实言论、降低他人社会评价的,侵害名誉权;

  • 擅自"AI复活"逝者的,近亲属可依民法典第994条请求行为人承担民事责任。


这不是空文。全国首例AI生成声音侵权案(北京互联网法院(2023)京0491民初12142号)中,配音师殷某的声音被AI化为文本转语音产品,平台显示播放量超32亿次,法院认定声音权益及于AI合成声音,判令两家公司书面赔礼道歉并连带赔偿25万元。全国首例AI陪伴案((2020)京0491民初9526号)也早已确认:人格权保护及于虚拟形象。


需要注意一件新武器——人格权侵害禁令(第8条)。例如在实务中,被AI换脸造"黄谣",等一审判决下来,伤害早已造成。现在,只要有证据证明侵权正在或即将发生、不及时制止将造成难以弥补的损害,就可以向法院申请禁令:责令网络用户停止侵权,甚至责令AI服务提供者停止提供服务——不必等案件审完。


规则2:AI训练数据的"安全港"(第6条)


大模型训练离不开海量数据,其中大量是已合法公开的个人信息。全盘禁止,产业没法发展;放任不管,个人信息形同裸奔。


《意见》给出的平衡方案:为模型训练,在合理范围内处理已合法公开的个人信息,且个人未明确拒绝的,一般不认定为侵权;但对个人权益有重大影响的,应当依法取得个人同意。


一句话:给产业留了活路,但没给"拿来主义"发通行证。"合理范围"的认定,要看处理目的与模型功能的必要性、信息类型与敏感程度、个人公开信息时的场景与可预期范围。


规则3:大数据杀熟、仿冒名人带货——算法不是挡箭牌(第10条)


  • 同一商品或服务,经营者利用算法在交易价格等条件上实行不合理的差别待遇,造成损害的,依法承担侵权责任;

  • 利用AI"仿冒名人带货"构成欺诈的,消费者可依消保法第55条主张惩罚性赔偿(退一赔三)。


"不合理的差别待遇"怎么判断?《意见》列了标准:是否实质限制消费者知情权、自主选择权、公平交易权;是否基于消费偏好、支付意愿、浏览记录形成针对个人的交易条件;差别待遇的理由是否正当、充分、非歧视。


规则4:自动驾驶事故,责任分四层(第11条)


这是智驾时代最实用的一条:

  • 一般事故:依据民法典和道路交通安全法承担赔偿责任;

  • 车辆缺陷导致事故:可依产品责任请求生产者、销售者赔偿;

  • 车辆缺陷+驾驶人过错结合致害:可以同时起诉驾驶人和车企(民法典第1172条);

  • 虚假宣传智驾等级、性能:损害消费者权益的,依法承担民事责任。


还有一个容易被忽略的亮点:法院可以要求车企、数据控制方提供真实、完整的自动驾驶事件记录数据。事故认定,不再依赖车企的单方说法。


规则5:AI侵权,原则上按"过错"担责(第3条)


法律没有明确规定适用无过错责任或过错推定责任的,一律回到民法典第1165条的过错责任原则。


判断过错,综合考量:应用场景、自主化程度、技术与信息透明度、潜在风险及影响范围、开发者提供者的防控措施、使用者的预见与控制能力。


这是给创新者的定心丸——AI开发者不必为一切输出无限兜底。但硬币的另一面同样清晰:谁诱导、谁控制、谁获利,谁担责。网络用户输入恶意提示词诱导AI生成侵权内容的,该用户直接承担侵权责任(第7条)。


规则6:AI生成内容侵权,"是AI生成的"不是免责理由(第12—13条)


《意见》明确:不能以被诉内容系AI生成为由免除相关主体责任,应当按控制能力与注意义务相匹配,认定开发者、提供者、使用者的责任。


配套的举证规则相当硬:开发者提出不侵权抗辩的,法院应当责令其提供训练数据来源、训练过程记录、模型运行模式予以佐证。


对开源社区则是利好:免费开源提供代码模块,并公开说明功能和安全风险的,他人使用导致侵权的,开源开发者、提供者可以不承担侵权责任(第13条)。


规则7:程序规则里藏着"硬条款"(第19条)


诉讼参与人提交的诉讼文书、案例检索报告如果是AI生成的,提交前必须核实法律、案例等内容的真实性,提交时应当说明AI辅助情况,并对内容真实性依法承担责任。换句话说:律师和当事人用AI写文书,从此有了明确的法定义务。引用AI"编造"的假案例?后果自负,还可能触发民诉法第114条的妨害诉讼责任。



三、实务建议
  • 普通用户/权利人

1、发现被AI换脸、拟声:第一时间录屏、截屏固定证据,播放量、传播范围直接关系赔偿数额;有条件的做公证或区块链存证;

2、情况紧急(如AI换脸黄谣正在扩散):直接申请人格权侵害禁令,不必等诉讼审结;

3、向AI服务提供者发通知:附上侵权初步证据和真实身份信息——这是触发平台担责的前提,缺了要件通知可能无效;

4、遭遇大数据杀熟、仿冒带货欺诈:保留订单记录、比价截图、宣传页面,主张惩罚性赔偿。


  • 企业/AI服务商

1、模型训练:建立数据来源合规审计台账;处理已公开个人信息前评估"合理范围",重大影响场景必须单独取得同意;

2、深度合成内容:落实显著标识义务(与《人工智能生成合成内容标识办法》衔接),商用数字人务必取得权利人书面授权;

3、侵权响应SOP:收到合格通知后,及时停止生成+屏蔽相关生成指令——避风港规则同样参照适用于生成式AI(第7条);

4、智能驾驶相关企业:事故数据的记录、留存、提供义务将直接进入诉讼视野,数据管理即诉讼风险管理;

5、涉AI技术合同:明确约定验收标准、效果偏差的风险分配、迭代优化义务(第15条),避免"效果不达预期"变成违约泥潭。




结语


技术往前跑,规则追上来。《意见》24条的潜台词,其实就八个字:AI可以闯,责任要认。

对个人,这是维权的说明书;对企业,这是合规的施工图。

你或身边的人遇到过AI换脸、AI仿声、大数据杀熟吗?欢迎评论区聊聊你的经历。

附《意见》全文链接:

https://www.court.gov.cn/zixun/xiangqing/511101.html?utm_source=openai







【声明】内容源于网络
0
0
上海乐川律师事务所
上海乐川律师事务所是从事商事合同、国际贸易、保险物流、涉外法律服务的专业律师事务所。本订阅号宗旨是以明白浅显的语言,将复杂的法律问题简单化,化严肃为轻松,化沉重为诙谐,一边学法律,一边偷着乐...来吧,一起愉快的学习吧
内容 300
粉丝 0
上海乐川律师事务所 上海乐川律师事务所是从事商事合同、国际贸易、保险物流、涉外法律服务的专业律师事务所。本订阅号宗旨是以明白浅显的语言,将复杂的法律问题简单化,化严肃为轻松,化沉重为诙谐,一边学法律,一边偷着乐...来吧,一起愉快的学习吧
总阅读3.1k
粉丝0
内容300