国内AI开发并不是此前“没有合规”。过去几年，开发团队已经需要处理生成式AI备案、安全评估、算法备案、训练数据、个人信息和AI生成内容标识等问题。9月7日，最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》，全文5部分24条，补上的是另一层：如果模型训练、生成和平台运营真的引发纠纷，法院怎么判断责任。
目前国内还没有一部专门的“人工智能法”。这份司法意见主要把民法典、个人信息保护法、著作权法、反不正当竞争法、消费者权益保护法等现有法律，落到训练数据、AI换脸拟声、AI幻觉、开源软件、平台责任和算法定价等具体场景里。
对技术团队来说，变化可以概括成一句话：以前更多考虑“产品能不能上线”，现在还要考虑出了问题以后，能不能证明模型为什么会产生这个结果。
01｜训练数据：公开在网上，不等于可以直接拿来训练
训练数据是这次和模型团队关系最直接的一块。
最高法明确，为模型训练在合理范围内处理个人自行公开或者其他已经合法公开的个人信息，而且个人没有明确拒绝的，一般不认定为侵害个人信息权益。但如果处理行为会对个人权益产生重大影响，仍然需要依法取得同意。
判断是不是“合理范围”，会看模型功能是否需要这些数据、数据敏感程度、可能产生的影响，以及个人公开信息时能够合理预期的使用方式。
这意味着“公开网页=可训练数据”这个逻辑不够了。训练数据至少要能追踪来源、采集目的、授权状态和敏感信息处理情况。
知识产权纠纷里，这一点更加直接。如果开发者主张AI生成内容没有侵权，法院可以要求其提供训练数据来源、训练过程记录、模型运行模式和相关技术依据。
所以Dataset Version、数据来源、清洗规则、训练记录和Checkpoint以后不只是为了复现模型，也可能直接变成诉讼证据。
02｜换脸、拟声、数字人：授权链需要跟到具体素材
最高法对AI换脸和声音克隆的规则写得比较具体。
未经本人同意，利用AI处理自然人的姓名、肖像，生成能够识别出这个人的虚拟数字形象并使用、公开，可能构成对姓名权、肖像权的侵害。未经同意，把某个人的声音作为训练语料，模仿其音色、语调和发音风格生成可识别的合成人声，也可能侵犯声音权益。
这直接影响数字人、TTS、AI视频和AI短剧团队。以后不能只问“模型能不能生成”，还要问这张脸、这段声音从哪里来，授权是否允许训练、生成和商业使用。
“AI复活逝者”也被单独写进司法意见。擅自制作、使用死者虚拟数字形象，侵害死者姓名、肖像、名誉等权益的，近亲属可以依法主张责任。
因此，生成式内容系统的素材库最好同时保留Asset Provenance：素材来源、权利人、授权范围、使用期限、是否允许训练、是否允许商业生成。
3｜AI幻觉：从模型质量问题变成平台责任和证据问题
Hallucination过去更多是Benchmark问题，进入真实产品以后，法院关心的是错误输出有没有造成实际损害，以及服务提供者收到通知之后做了什么。
如果AI生成内容侵害他人的名誉权、隐私权等人格权益，权利人提供初步侵权证据并通知平台后，平台没有及时采取停止生成相关内容等必要措施，可能依法承担相应责任。用户通过恶意Prompt诱导模型生成侵权内容，用户本身也可能承担责任。
这意味着Moderation不能只做“一次输出是否拦截”。收到投诉以后，还需要处理相同Prompt、相同人物、相同侵权路径是否继续生成，并保留投诉和处置记录。
司法意见对证据的要求也很技术。判断AI生成内容是否构成侵权时，可以综合看Prompt设计、Prompt对输出的影响、重复测试结果、模型训练方式、算法设计和内容过滤机制。
因此，对高风险或商业化AI产品来说，模型版本、System Prompt、用户Prompt、生成参数、Safety规则版本、输出结果和投诉处置日志，都可能影响后续责任判断。
在法律、医疗、金融、科研等高风险场景里，“这是模型幻觉”也不会自动免责。最终使用AI生成材料的人仍然需要核实内容真实性。最高法还明确，诉讼参与人使用AI辅助生成诉讼文书、案例检索等材料，应当在提交前核实，并说明使用AI辅助的情况。
04｜开源和算法定价，也开始进入责任判断
技术圈比较需要关注的是开源软件责任。
最高法提出，判断AI开源软件开发者、提供者以及后续开发者是否承担责任时，会综合考虑开源许可证、安全合规措施和信息披露程度，并依法给予开源开发者、提供者适当的责任豁免。
例如，开发者免费开源部分代码模块，同时已经说明功能和安全风险，后续其他人使用该模块造成侵权，原开发者在符合条件时可以不承担侵权责任。
这不是“开源即免责”。License、功能说明、安全风险披露和具体侵权行为仍然会被一起判断。对开源框架、Agent SDK、推理引擎和插件团队来说，README、License、Security Notice和Risk Disclosure以后都更有实际意义。
“大数据杀熟”也被写进司法意见。如果经营者利用算法，基于消费偏好、支付意愿、支付能力、浏览记录等信息，对同一种商品或者服务设置不合理的差异化价格和交易条件，并造成损害，可能承担侵权责任。
对Dynamic Pricing、推荐和营销系统来说，模型不仅要能给出价格，还要能解释为什么不同用户得到不同结果，以及这种差异有没有合理、非歧视的业务依据。
05｜开发团队现在要补的是工程证据链
把此前的行政监管和这次司法意见放在一起，AI产品的合规链路已经比较清楚：
|
|
|
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
这里并不是要求团队把所有数据永久保存，而是高风险产品至少要做到关键流程可追踪、关键版本可复现、关键授权能查到。
数据要有来源，人脸和声音要有授权，生成过程最好能追踪，投诉以后要能真正阻断侵权路径，开源要把License和风险写清，算法决策要能解释为什么对两个用户不一样，模型出了问题以后，也不能只留下一句：“这是概率模型，偶尔会幻觉。”
以前AI合规更像一道上线门槛，现在它开始进入模型生命周期本身，不是只证明你的AI可以上线，还要证明它为什么产生这个结果，以及出了问题以后责任应该落到谁。
参考来源
-
最高人民法院：《关于依法审理涉人工智能纠纷案件的意见》（2026年9月7日） -
国家网信办等七部门：《生成式人工智能服务管理暂行办法》 -
国家网信办等四部门：《人工智能生成合成内容标识办法》