AI不是免责牌，司法开始重写技术责任

9月7日，最高人民法院发布《最高人民法院关于依法审理涉人工智能纠纷案件的意见》。这份文件共5个部分、24条，覆盖AI换脸拟声、AI复活逝者、网络开盒、模型训练、AI幻觉、大数据杀熟、仿冒名人带货、自动驾驶、知识产权、数据使用、诉讼证据、涉AI犯罪等一系列高频场景。最高法在发布说明中明确称，这是首部由国家最高审判机构发布的涉人工智能司法裁判规则文件。

这句话的分量很重。

过去几年，人工智能治理主要依靠行政监管规则推进：算法推荐、深度合成、生成式人工智能服务、安全评估、内容标识、备案管理，构成了以平台治理和事前合规为核心的监管：框架。国家网信办等七部门发布的《生成式人工智能服务管理暂行办法》自2023年8月15日起施行，明确要求生成式人工智能服务尊重知识产权、商业道德和个人合法权益，并提高生成内容的准确性和可靠性。

但行政监管解决的主要是能不能上线、如何备案、怎样管理的问题。最高法这份《意见》真正解决的是另一类更尖锐的问题：纠纷已经发生，法院如何判断责任；权利已经受损，受害人如何救济；证据掌握在模型、平台、车企或系统提供者手中，诉讼如何推进；AI内容侵权、AI证据失真、AI工具误用，谁来承担后果。

换言之，AI治理的重心正在发生一次关键迁移：从事前准入与平台合规，转向事后定责与司法救济。

这才是《意见》的根本意义。

一、最高法真正确立的，是AI纠纷的裁判坐标

首先要说清楚，《意见》不是人工智能专门法，也不是把AI单独塑造成一个新的法律主体。

最高法在发布说明中明确提到，我国目前尚未出台专门的人工智能法，《意见》是在民法典、网络安全法、数据安全法、著作权法、反不正当竞争法、消费者权益保护法、个人信息保护法、民事诉讼法等既有法律框架下，对涉人工智能纠纷案件提出的裁判指引。

这意味着，法院并不是另起炉灶创造一套脱离现行法的AI规则，而是在现有法律体系中重新校准责任分配。

这种校准非常必要。因为AI纠纷的难点，不在于法律完全没有规则，而在于传统规则面对AI系统时容易失焦。

例如，传统侵权案件中，行为人、行为、损害、因果关系相对清楚；但在AI场景下，一个损害结果可能同时涉及训练数据、算法设计、模型参数、提示词输入、平台调用、内容分发、用户二次传播等多个环节。传统产品责任通常围绕实物产品展开；但AI服务可能没有有形载体。传统著作权侵权强调复制、改编、信息网络传播；但AI生成内容可能既不像简单复制，也不像传统创作。传统证据规则重视电子数据真实性；但AI可以低成本生成看似真实的图片、音频、视频、聊天记录甚至法律文书。

因此，《意见》的真正价值，不是告诉我们AI很重要，而是回答了一个更具体的问题：当技术系统变得复杂、动态、不透明，司法如何把不确定性转化为可审查的事实，把技术风险转化为可归责的法律义务。

二、核心规则：不是谁用了AI谁担责，而是谁控制风险谁负责

《意见》的主线，可以概括为四个字：场景定责。

它既没有把AI技术视为原罪，也没有允许市场主体用算法自动生成模型不可解释技术中立来逃避责任。最高法明确提出，要区分通用与专用、开源与闭源等不同类型人工智能系统在技术原理、风险外溢和控制能力上的差异，对开发者、提供者、使用者等主体的法律责任作出合理划分。

这是一种很重要的司法态度。

AI不是免责牌，但也不是自动归责的标签。法院真正关心的，不是某个结果是否由AI生成，而是结果背后的人和组织在系统设计、数据选择、模型部署、用户提示、风险预警、内容分发、投诉处理、纠错阻断等环节中，究竟做了什么，能够做什么，应当做什么，却没有做什么。

《意见》第3条明确，在法律没有规定无过错责任或者过错推定责任的情况下，涉人工智能侵权责任原则上适用过错责任。判断过错时，法院要综合考量AI应用场景、自主化程度、技术与信息透明度、潜在风险及影响范围，以及相关主体为预防和减少侵权所采取的措施和技术可行性等因素。

这实际上建立了一套AI纠纷中的注意义务评估模型。

风险越高，注意义务越高。控制能力越强，责任越难推脱。获益越直接，合规义务越不能空转。系统越不透明，越需要通过日志、说明、测试、标识、拦截、投诉处理等机制证明自己已经尽到合理注意义务。

未来法院审理AI纠纷时，关键问题将不再是是不是AI自动完成，而是相关主体是否具备预见能力、控制能力和防范能力。如果具备而未履行，技术复杂性就不能成为抗辩理由。

三、人格权保护：AI换脸、拟声、复活逝者，进入强约速区

《意见》中最具现实冲击力的部分，是对人格权风险的系统回应。

生成式AI使人格要素被重新拆解。人的姓名、肖像、声音、动作、语气、身份、经历、社交关系，都可以被数据化、模型化、再生成。过去侵犯肖像权，往往需要使用真实照片；现在只要生成结果足以让公众识别出特定自然人，就可能造成同样甚至更严重的人格损害。

《意见》第4条明确，未经自然人同意，利用AI处理自然人的姓名、肖像等，生成可识别该自然人的虚拟数字形象并使用、公开的，法院依法支持其关于姓名权、肖像权等人格权益受侵害的主张。未经同意使用自然人声音作为训练语料，模仿其音色、语调和发音风格，生成能够识别该自然人的合成人声的，也可能构成对声音权益的侵害。操控可识别特定自然人的虚拟形象、声音实施不当行为或者发表不实言论，降低社会评价的，构成名誉权侵害。擅自制作、使用死者虚拟数字形象，侵害死者姓名、肖像、名誉等人格利益的，近亲属可以依法请求行为人承担民事责任。

这套规则的底层逻辑非常清晰：人格权保护的对象不是某一张照片、某一段录音本身，而是自然人可被识别、可被尊重、可被自主支配的人格利益。

所以，AI换脸的重点不是脸是不是真的，而是公众能否识别为某个人;AI拟声的重点不是是否使用原始录音，而是是否足以模拟并替代个人声音;AI复活逝者的重点不是技术是否新奇，而是是否违背人格尊严、公序良俗和近亲属的合法利益。

这对短视频平台、直播机构、广告公司、MCN机构、虚拟数字人服务商、AI配音工具、数字营销团队都构成直接约束。未经授权使用他人面容、声音、身份进行内容生成、营销转化、情绪消费或商业背书，将很难再用只是技术合成不是本人真实表达进行防御。

更重要的是，《意见》强化了人格权侵害禁令的适用。

利用AI侵害人格权益具有成本低、速度快、传播广、损害难以逆转等特征。最高法答记者问中举例说明，受害者有证据
证明其被AI换脸造谣，若不及时制止将造成难以弥补损害，可以向法院申请人格权侵害禁令；法院既可以责令网络用户停止侵权，也可以责令网络服务提供者、人工智能服务提供者及时采取必要措施。

这标志着AI人格权保护从事后赔偿转向及时阻断。在AI深度伪造场景中，赔多少钱往往不是最重要的问题，最重要的是先让侵害停止扩散。禁令制度因此会成为AI人格权纠纷中最有力的救济工具之一。

四、公开个人信息不是免费矿山：模型训练必须回到合理范围

大模型训练离不开数据，数据治理因此成为AI纠纷的底层战场。

《意见》第6条处理了一个极具争议的问题：互联网上已经公开的个人信息，能不能被用于AI模型训练?

最高法给出的答案不是绝对禁止，也不是全面放开，而是合理范围内可以，一旦重大影响必须更高标准。

具体而言，为人工智能模型训练，在合理范围内处理个人自行公开或者其他已经合法公开的个人信息，且个人未明确拒绝的，一般不认定为侵害个人信息权益；但如果对个人权益有重大影响，应当依法取得个人同意。法院认定合理范围时，要综合考虑处理目的与模型功能的必要性、适当性，个人信息类型、敏感程度、潜在影响，以及个人公开信息时的场景和可合理预期的使用范围。

这条规则非常关键，因为它避免了两个极端。

如果一律禁止使用公开个人信息进行模型训练，AI产业的数据基础会受到显著限制；如果一律允许使用公开信息，则个人信息权益会被技术规模化吞噬。最高法选择的是一种场景化、比例化的路径：公开不等于放弃权利，训练不当然构成侵权，关键看是否必要、适当、可预期、不过度。

一个人公开职业履历，不等于同意平台进行人格画像、信用推断或歧视性定价。一个人公开视频，不等于授权他人克隆声音、生成数字分身。一个人在社交媒体公开生活片段，不等于同意其信息被聚合分析、交叉识别并用于开盒、人肉搜索或精准骚扰。

这条规则对AI企业提出了比数据来自公开互联网更高的要求。未来，训练数据合规不能停留在来源声明，而应当形成可审查的数据治理链条：数据来源台账、采集规则、用途说明、敏感信息识别、拒绝处理机制、删除机制、训练数据过滤、权益影响评估，以及必要时的授权或同意记录。

公开信息可以被合理利用，但不能被无限攫取。这是《意见》给模型训练划出的第一道司法边界。

五、AI幻觉：平台不当然担责，但收到通知后不能装作看不见

生成式AI最典型的风险之一，是AI幻觉。

模型可能编造事实、虚构案例、捏造经历、错误归因，甚至生成看似可信但完全不存在的内容。当这种内容侵害他人名誉权、隐私权、著作权或其他权益时，责任如何认定，是司法必须面对的新问题。

《意见》第7条提出，生成式人工智能自动生成的内容侵害他人名誉权、隐私权等人格权益，经权利人通知后，生成式人工智能服务提供者未及时采取停止生成侵权内容等必要措施的，对损害扩大部分应当依法承担侵权责任。网络用户通过输入侵权提示词等方式恶意诱导生成侵权内容并造成损害的，该用户也应依法承担责任；经权利人通知后，服务提供者未及时采取停止生成、屏蔽相关生成指令等必要措施的，法院依法支持权利人追责。

最高法在答记者问中进一步解释，这一规则具有参照适用避风港规则的正当性。生成式AI服务提供者难以事先预知所有用户输入，也无法对海量生成内容逐一预测、审查和拦截；但当AI因自身幻觉或用户恶意诱导生成侵权内容后，经权利人通知，服务提供者有条件采取必要措施，就不能放任损害扩大。

这是一种精细平衡。

它没有要求AI平台对所有输出承担绝对责任，否则生成式AI服务将面临不可承受的责任风险。但它也没有允许平台把一切推给模型、推给用户、推给概率。平台在收到有效通知后，必须进入处置状态。删除、屏蔽、阻断、限制相关提示词、优化安全策略、留存处理记录，都可能成为法院判断平台是否尽到义务的重要事实。

最高法相关解读文章中有一句话非常直接：技术不是免责牌；企业不能只获利不担责。

这句话实际上点出了AI平台责任的本质。技术企业可以主张技术局限，但不能主张法律真空；可以说明模型概率性，但不能放弃风险治理；可以依靠用户输入完成生成，但不能在明知侵权风险后继续提供扩散工具。

AI幻觉时代，免责声明不是护身符。真正有效的是可运行、可验证、可追溯的处置机制。

六、知识产权：AI生成不是免责理由，但最高法保留了两个最难问题

知识产权部分，是《意见》中最值得产业界和法律界细读的内容。

《意见》第12条明确，人工智能生成内容侵害他人著作权的，法院应当综合考量人工智能服务类型、行业特点、训练数据来源、各方参与度、必要措施、获利情况等因素，合理认定人工智能开发者、提供者、使用者的责任。人工智能开发者提出不侵权抗辩的，应当提供训练数据来源、训练过程记录、模型运行模式以及科学理论依据等材料予以佐证。人工智能使用者知道或者应当知道在先作品存在，仍利用AI生成与在先作品实质相似的作品且无合理抗辩理由的，法院支持权利人追究其侵权责任。

这里有两个信号。

第一，AI生成不是免责理由。不能因为内容是模型输出，就认为没有人需要负责。法院会看谁提供模型，谁投喂数据，谁输入提示，谁控制生成，谁进行传播，谁从中获利，谁能够采取合理措施却没有采取。

第二，举证责任正在重新分配。权利人当然要对侵权内容、权利基础、实质相似等初步事实举证；但由于模型训练数据、运行模式、过滤机制往往掌握在开发者或服务提供者手中，如果开发者提出不侵权抗辩，就不能只给出概括性声明，而要提供相应证据材料。最高法答记者问中也强调，由于人工智能技术复杂且不透明，相关证据非他人可以获取，开发者提出不侵权抗辩时，应当就训练数据来源、训练过程、运行模式等事实举证，必要时还应提供科学理论依据。

这将深刻改变AI企业的知识产权合规。

未来一旦发生著作权纠纷，法院可能不会满足于我们没有直接复制我们使用的是公开数据模型只是学习规律这类抽象表述。企业需要证明训练数据从哪里来，是否有授权或合法基础，是否经过过滤，是否保存版本记录，是否设置输出相似性控制，是否在收到权利通知后采取措施。

不过，最高法并没有急于回答所有争议。

答记者问明确指出，对于人工智能生成内容的可版权性，以及未经许可使用他人作品训练人工智能大模型的定性问题，意见分歧很大、认识仍需深化，因此《意见》暂不作规定。

这不是回避，而是审慎。

AI生成物是否构成作品，牵涉独创性人的智力创作权利归属等著作权法根基问题；训练数据是否构成合理使用，牵涉创新激励、数据市场、创作者收益、产业竞争和公共利益之间的复杂平衡。在司法经验不足、产业形态仍快速变化的阶段，最高法选择先解决更急迫的责任认定和证据规则问题，把最底层的制度分歧暂时留给未来的案例积累、司法解释或立法完善。

但留白不等于无规则。相反，在权属与训练合法性尚未最终定论之前，企业面对诉讼时的说明义务、记录义务、注意义务反而更重要。真正的分水岭不是谁在口头上主张“合理使用”，而是谁能在证据上证明“合理、必要、合规、可控”。

七、开源、专利和数据权益：司法不是压制创新，而是重塑创新边界

《意见》并非单向度强化责任，它同样释放了保护创新的信号。

在开源软件方面，《意见》第13条提出，审理涉开源软件案件时，应综合考虑开源许可协议类型、权利限制、安全合规举措和信息披露程度等因素，依法给予开源软件开发者、提供者适当责任豁免。开源开发者、提供者以免费开源方式提供AI软件研发所需部分代码模块，并公开说明功能和安全风险，他人使用该模块导致侵权的，法院可以认定开源开发者、提供者不承担侵权责任。

这对开源生态非常重要。

如果任何下游滥用都可以无限追溯至上游开源贡献者，开源创新会被不合理的责任风险压垮。最高法在这里采取的是贡献归贡献，滥用归滥用的思路：开源主体只要清楚披露功能和风险，并未参与下游侵权，不宜被过度归责。

在专利方面，《意见》第14条明确，涉人工智能发明创造如果采用遵循自然规律的技术手段，解决技术问题，实现技术效果，可以依法作为专利法保护客体；自然人使用AI完成发明创造，只要其对发明创造的实质性特点作出创造性贡献，应当认定该自然人为发明人。

这同样是一个重要边界：AI可以成为研发工具，但发明人仍然要回到人的创造性贡献。企业使用AI进行研发，不仅要关注专利申请文本能不能写好，更要关注研发过程能不能证明人的实质贡献。技术路线选择、关键参数确定、实验方案调整、效果验证、创造性构思形成，都应当被记录下来。否则，未来在发明人资格、职务发明归属、专利稳定性和技术成果权属上，都可能出现争议。

在数据权益方面，《意见》第16条确认，人工智能开发者通过采集生成、衍生创造、受让取得、授权许可等方式合法获取数据并享有相应数据权益的，法院应予保护；构成汇编作品或符合其他作品构成要件的数据、数据集合，可以依著作权法保护；构成商业秘密的，可以依反不正当竞争法保护；利用虚构干扰数据、恶意标注数据、对抗样本攻击等技术手段损害人工智能运行安全的，也要依法承担责任。

这说明，司法不仅保护被AI侵害的一方，也保护AI产业自身的数据资产和系统安全。AI治理不是简单管住AI，而是建立可持续的创新秩序：合法数据应受保护，非法抓取和恶意攻击应被规制，开放创新与权利边界必须同时成立。

八、大数据杀熟与仿冒名人带货：算法开始接受公平交易审查

《意见》第10条把AI纠纷直接拉回普通消费者的日常生活。

针对同一商品或服务，经营者利用算法在交易价格等交易条件上实行不合理差别待遇，侵害他人合法权益造成损害的，法院应依法认定其承担相应侵权责任。法院判断是否构成不合理差别待遇，要考察差别待遇是否实质限制或损害消费者知情权、自主选择权、公平交易权，是否基于消费偏好、支付意愿、支付能力、浏览记录等信息形成针对个人的交易条件，是否违背诚信原则和商业伦理，以及差别待遇理由是否正当、充分、非歧视。经营者利用AI实施仿冒名人带货且构成欺诈的，消费者可以依法主张惩罚性赔偿。

这条规则的现实意义在于：算法定价不再只是商业策略，也可能成为司法审查对象。

过去消费者遭遇大数据杀熟时，常常难以举证。不同用户看到不同价格，平台解释为优惠券、会员等级、供需波动、库存变化、测试策略，普通用户很难穿透算法系统看到真正原因。《意见》至少提供了一个裁判方向：法院不只看价格是否不同，还要看差别待遇背后的数据基础、用户画像、交易条件形成机制、正当性理由和消费者权利影响。

仿冒名人带货则更直接。AI可以低成本制造名人推荐、专家背书、达人测评、医生科普、律师解读等虚假场景。消费者看到的不再是传统广告，而是具有强烈真实感和信任暗示的生成内容。一旦构成欺诈，经营者承担的就不只是一般侵权责任，还可能面临消费者权益保护法上的惩罚性赔偿责任。

这对电商平台、直播机构、品牌方和营销服务商都是明确警示：AI营销不能把虚拟生成包装成真实背书，不能把技术仿真伪装成真人推荐，更不能用生成式内容绕开广告法、消保法和反不正当竞争法的基本要求。

九、自动驾驶：辅助驾驶不是责任真空，事故数据将成为核心证据

自动驾驶和辅助驾驶，是AI从线上走向线下后最典型的责任场景。

《意见》第11条明确，自动驾驶汽车、具备辅助驾驶功能汽车上道路行驶，发生交通事故造成损害的，应依据民法典和道路交通安全法有关规定承担赔偿责任。因车辆存在产品缺陷导致交通事故造成损害的，受害人可以请求生产者或销售者承担产品责任。具备辅助驾驶功能的汽车因车辆缺陷与驾驶人过错结合导致同一损害的，当事人可以同时请求驾驶人和车辆生产者、销售者承担相应责任。车辆生产者、销售者对自动化等级、智能程度、性能、用途等作虚假或引人误解宣传，损害消费者权益的，也应依法承担民事责任。为查明事故原因，法院可以要求车辆生产者、销售者或运营者等数据控制方，在必要范围内提供真实、完整的自动驾驶、辅助驾驶事件记录等数据。

这里有两个重点。

第一，辅助驾驶不能被营销成自动驾驶。智能汽车企业在宣传中使用自动、无人、全场景、端到端、接管率极低等表述时，必须和实际能力边界相匹配。夸大系统能力，可能直接引发消费者权益责任，甚至在事故案件中影响过错认定。

第二，事故数据将成为自动驾驶纠纷的关键证据。车辆日志、传感器记录、接管提醒、驾驶员监测、系统退出、OTA版本、告警信息、事故前后控制权状态，都可能决定事故责任如何划分。谁控制数据，谁就可能承担更高的信息披露和举证义务。拒不提供、选择性提供、不完整提供，都可能在诉讼中产生不利后果。

自动驾驶行业未来的合规重点，不仅是系统能跑多远、识别率多高、体验多顺滑，更是能否在事故发生后把系统运行事实讲清楚、拿出来、经得起司法审查。

十、诉讼规则：律师、法务和当事人不能把AI当作“自动办案机”

《意见》还直接回应了AI进入诉讼后的风险。

现在，AI已经被广泛用于起草诉状、检索案例、整理证据、生成法律意见、制作时间线、分析合同。但AI生成内容可能出现虚假法条、虚假案例、错误归纳、选择性呈现，甚至被当事人用于伪造证据、干扰事实查明。

《意见》第18条要求，法院审查涉人工智能证据时，应充分考量AI技术复杂性、系统运行不透明性和证据收集特殊性，重点审查电子数据生成、收集、存储、传输过程的真实性、完整性。对大数据分析报告类证据，要重点审查原始数据来源、清洗规则和分析方法科学性；对区块链存证类证据，要重点审查上链前数据真实性和技术平台可靠性。当事人将AI生成内容作为侵权证据的，法院还要综合考量提示词设计、生成内容与权利作品相似程度、重复测试一致性、模型训练、算法设计、生成内容过滤机制等因素。

《意见》第19条进一步明确，诉讼参与人提交诉讼文书、案例检索报告等材料如系使用人工智能生成，在提交法庭前应认真核实法律、司法解释、案例等内容的真实性、准确性，并在提交时说明使用AI辅助情况，对有关内容依法承担责任。利用AI伪造证据、捏造事实进行虚假诉讼的，法院可以驳回诉讼请求，并根据情节轻重予以罚款、拘留；构成犯罪的，依法追究刑事责任。

这对律师和企业法务的影响非常直接。

AI可以用，必须核验，事实必须核验，证据必须核验。AI生成的检索报告、法律分析、证据摘要，只能是辅助材料，不能替代专业判断。更不能为了追求诉讼优势，通过改写提示词、选择性展示结果、删除生成合成内容标识、对抗性干扰等方式制造虚假证据。

未来，专业机构使用AI办案，至少应建立内部规则：哪些任务可以交给AI，哪些材料必须人工复核，AI输出如何留痕，提交法院时如何说明，引用来源如何校验，敏感事实和关键证据如何排除模型幻觉。

AI提升效率，但责任仍由人承担。这是《意见》对诉讼参与人的基本要求。

十一、企业合规的真正重点：不是写制度，而是形成可证明的治理能力