AI的“罪”与“罚”：《关于依法审理涉人工智能纠纷案件意见》的关键切面
2026年9月7日，最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》（下称“《意见》”）全文五部分、二十四条，是首部由国家最高审判机构发布的涉人工智能司法裁判规则文件。《意见》以法发〔2026〕10号文件发布，是在现行法律框架下提供裁判理念和规则指引的司法文件，宜与以法释文号发布的司法解释相区分。
在我国尚未出台专门人工智能立法的背景下，《意见》选择了以民法典、个人信息保护法、著作权法、产品质量法、道路交通安全法、民事诉讼法等既有法律为依托，把人工智能场景嵌入现行法律体系。
《意见》不仅厘清了AI领域热点争议的裁判思路与归责逻辑，也为企业AI研发、数据训练、产品落地划定司法红线与行为预期。下文将结合《意见》的规则要点，拆解企业合规应对方案，以供参考。
一、归责原则
（一）归责原则的分场景适用
《意见》第三条秉持了主流观点以及当前司法实践立场：法无明文规定的，回归过错责任。该条款没有为人工智能侵权创设特殊归责原则，而是确立了一个两步判断框架：先根据受侵害权益和具体业务场景，判断是否存在个人信息保护、产品责任、道路交通事故责任等特别规则；没有特别规定的，再适用《民法典》第一千一百六十五条第一款规定的一般过错责任。下图划分了人工智能侵权场景下一般情形与特殊情形的归责原则：
第3条的意义在于将人工智能侵权纳入既有归责体系，并把技术特征转化为过错判断的具体因素。自主性增强或者技术不透明，并不当然构成适用无过错责任的法律依据；法律规定适用产品责任、过错推定等特别规则的，仍应分别适用。由此，对人工智能法律人格、类推动物致害责任等学说的讨论，不能替代现行法上的责任主体识别和构成要件分析。《意见》并未对这些学说作出全面否定，其实践价值在于明确当下裁判应当遵循的路径。
（二）过错的考量因素
在判断行为人有无过错以及过错程度时，法院会考察人工智能系统本身的风险、企业预防风险的能力和措施，以及使用者对损害的预见和控制能力。具体而言，《意见》第三条后半段给出了以下考量因素：
1.人工智能应用的具体场景、自主化程度、技术与信息透明度、潜在风险及影响范围
人工智能应用对生命健康、财产安全或者个人重大权益的影响越大，自动决策程度和影响范围越高，开发者、提供者承担的注意义务通常越重。例如，医疗辅助诊断、金融风控、自动驾驶等高风险场景，原则上应采取比内容生成、办公辅助等更严格的测试、审核和人工干预措施，开发者、提供者相应的注意义务也越高。
技术与信息透明度是一个值得高度关注的因素。企业对训练数据来源、模型能力边界、已知局限、缺陷和使用风险保持透明披露，并在用户作出关键决定前进行显著提示，这有助于在过错认定上获得更有利的评价。这也意味着，透明度不仅是行政合规义务，还成为了民事责任的减轻事由。
在杭州互联网法院审理的“AI幻觉侵权”案[1]中，法院也综合考虑了服务场景、模型技术特点、风险提示、技术防范措施以及实际损害等因素。
建议企业采取以下措施：对人工智能应用从具体场景、自主化程度、潜在风险和影响范围等维度进行风险分级，采取不同的合规措施，如对高风险输出设置人工复核机制等；形成模型能力和功能局限提示说明；在产品界面用户决策关键节点设置显著的警示提醒，如在功能交互页面、《用户协议》、《模型原理与训练方法说明》中予以提示。
2.人工智能开发者、提供者等相关主体为预防和减少人工智能侵权所采取的措施及技术上的可能性
人工智能企业通常不承担模型绝不出错的结果义务，但应当采取与业务风险和现有技术能力相匹配的合理措施。法院会考量并关注开发者和提供者是否针对性采取预防措施识别主要风险，采取的措施是否具有针对性，以及发现问题后是否及时处置。
建议企业针对人工智能技术的特点，采取行业通行的必要、合理、有效措施，并评判服务功能的可靠性与协议目的、业务场景的实现是否相一致等，并形成便捷的用户反馈纠错机制。可采取的措施包括：从检查分类、数据清洗、测试评估、指令优化到训练调优进行幻觉治理；构建关键词表、分类模型对有幻觉风险的输出进行拦截、外部护栏紧急防护；采用检索增强生成（RAG）方法，在生成时结合外部可靠知识库，为模型输出提供事实依据等。
3.人工智能使用者对利用人工智能技术实施的侵权行为可能造成损害的预见能力与控制能力
若用户具备识别、规避侵权风险的能力，且可自主控制提示词输入、生成内容的选择与后续传播，相应损害更多源于用户的独立决策，人工智能开发者、提供者的注意义务边界随之收缩；例如，使用者明知相关行为可能侵权，仍通过特定提示词诱导生成侵权内容，并自行选择、编辑或者公开传播，其对损害具有较强的预见和控制能力，应当承担相应责任。但用户能够控制提示词和传播行为，并不意味着服务提供者当然免责。法院仍会审查平台是否设置了合理的滥用防范机制，以及接到权利人通知后是否及时停止生成、屏蔽相关指令。
建议企业在在线协议中明确禁止侵权和欺诈等滥用行为；对高风险功能设置权限控制和异常使用监测；并依法保存提示词、输出内容、模型版本和处置记录。
综上，企业首先应当梳理自身在不同业务中的角色、涉及的权益和适用的责任规则，评估技术风险，针对性采取预防措施，并留存能够证明相关措施实际运行的记录。
二、人格权保护
（一）程序上的保护：通知删除规则及禁令
《意见》第七条规定了人格权侵权场景下的通知删除规则。《<最高人民法院关于依法审理涉人工智能纠纷案件的意见>的理解与适用》（下称“《理解与适用》”）中也阐述了这一规则的起草背景以及相关争议。尽管此前有不少声音认为生成式人工智能服务提供者实质参与了内容的生成过程，且在“AI幻觉”侵权情形下可能并不存在实施侵权行为的网络用户，但最高法认为，从技术原理来看，生成式人工智能服务提供者并不直接生成或者决定侵权信息的生成，通常也并不主动组织、筛选和审查信息的内容，故其责任承担问题上具备参照适用“避风港规则”的正当性基础。AI服务提供者需要建立健全事前的通知删除规则，而在通知的形式审查上，由于AI往往即时“点对点”生成私密内容，权利人难以获得公开链接。因此不必像传统网络侵权通知那样提供具体侵权内容链接；权利人能够合理证明AI生成了侵害其权利的内容（如提交提示词、技术测试）即构成有效通知。这在降低了通知的门槛的同时，也预示着AI服务提供者可能需要做好完善内部审查机制的准备。并且，建议投诉入口不宜将“填写侵权链接”设置为不可替代的必填项，否则将导致有效通知无法提交，影响平台主张避风港保护。
AI场景下侵权内容常存在于用户客户端或服务端数据库中，没有可供删除的链接，且删除用户客户端内容极可能侵害用户隐私，故传统的删除、断开链接在AI场景下难以直接适用。针对这一点，《意见》第七条提出必要措施包括但不限于停止生成侵权内容、屏蔽相关生成指令，《理解与适用》中还补充了对实施侵权的用户采取警示、限制或者暂停服务。以上必要措施呈现出防范未来侵权的特点，这与传统网络侵权中主要针对既有内容采取删除措施有所不同，也对AI服务提供者的指令识别、模型控制和用户治理能力提出了更高要求。
《意见》第八条同时强调适用人格权侵害禁令制度，主要是回应人工智能侵权具有成本低、传播快、影响广、损害难以逆转等特点。通知删除规则旨在从服务提供者一端及时阻断侵权内容的继续生成，禁令制度则可以直接约束正在或者即将实施侵权的行为人，并可以责令网络服务提供者、生成式人工智能服务提供者停止提供相关服务。两项制度相结合，意味着AI服务提供者既需要完善投诉处理机制及时处理权利人的有效通知，也需要具备迅速执行司法禁令、停止相关生成或者服务的能力。
此外，在《意见》起草过程中，曾参照民法典第一千一百九十七条写入“红旗规则”，但因有意见提出增加规定红旗规则将对产业发展造成极大负担，不符合鼓励创新导向，最终《意见》未对红旗规则的适用作出规定，但这并未排除红旗原则在个案中的适用。AI平台一旦明显感知到存在AI换脸、声音复刻、虚拟人设造谣等明显侵害姓名、肖像、声音、名誉的侵权内容，应及时采取相应的必要措施。针对公众人物、知名人士等身份特征易被识别且遭受仿冒风险较高的对象，平台可以结合业务场景，配置更强的事前识别与风控能力，主动建立人物特征白名单、肖像音色拦截库，落实事前筛查与前置过滤。
从比较法角度观察，通知处置、生成内容核验和开源风险披露，均是不同法域共同面对的风险分配问题。但规则在功能上相似，并不足以证明《意见》直接借鉴了某一外国制度或者判例。对第七条的解释应首先立足《民法典》第1195条，并区分模型自动生成侵权内容与用户恶意诱导生成的不同情形。域外经验可以作为制度比较的材料，不能据此移用其免责条件或者替代我国法上的责任判断。
（二）实体上的落地：回应AI换脸等乱象
《意见》第四条、第五条针对生成式人工智能滥用引发的人格权、隐私权新型侵权乱象，回应了AI换脸、拟声复刻、AI复活逝者、AI人肉搜索等数字时代新型侵权难题。下表梳理了相关新型行为的具体合法性要求：
| 权益 | 行为 | 具体规则 | 个人信息的交叉及对应合规要求 |
|---|---|---|---|
| 姓名权 |
|
|
|
| 肖像权 |
|
|
|
| 声音权益 |
|
|
|
| 名誉权 |
|
|
|
| 隐私权 |
|
|
|
整体而言，第四、五条直面生成式AI技术滥用带来的人格权与隐私安全风险，打破了公开信息即可任意利用、AI技术复刻当然无责的误区，细化了AI应用的人格权益保护义务，也倒逼市场主体规范AI图像、语音复刻、数据挖掘分析等技术行为，杜绝利用人工智能技术实施各类新型侵权行为。
对此，我们建议：
（1）对于模型输出中涉及特定自然人，尤其是知名人物、公众人物肖像、声音、姓名特征的情形，建立基础识别拦截机制，承担与其行业认知、技术能力相匹配的识别与风险判断义务。
（2）对逝者虚拟数字形象开展商业利用，需优先取得逝者生前明确、可留痕的许可文件，明确授权用途、使用范围、期限，区分悼念纪念场景与商业营销场景，即使取得授权，也不得以歪曲、丑化或者其他违背公序良俗的方式使用逝者的姓名、肖像、声音或者虚拟数字形象。
（3）对于从事用户画像、市场调研、行业分析的企业，合规红线重点在于处理结果是否能够锁定到具体、可识别的自然人，还应同时审查信息来源、处理目的、处理方式及其是否超出个人对公开信息的合理预期。仅开展匿名化、去标识化后的群体聚合统计、行业趋势研判，无法定位到个体，通常具有相对较低的隐私侵权风险；但如果通过AI技术对网络公开碎片化信息做聚合推演、关联计算，最终锁定特定自然人，进而获取、导出其私密信息，或者用于骚扰、曝光个人，即便原始素材来源于公开网络，也将落入隐私权侵权的范畴。故企业应明确区分聚合分析与个体溯源，同时完善数据用途限制、人员访问权限、结果导出控制和操作留痕机制。
三、公开个人信息的训练使用：“合理范围”的界定
《意见》第六条以《民法典》第一千零三十六条第二项、《个人信息保护法》第二十七条为基础，明确为人工智能模型训练，在合理范围内处理个人自行公开或者其他已经合法公开的个人信息，且个人未明确拒绝的，一般不认定侵害个人信息权益；但对个人权益有重大影响的，仍应依法取得个人同意。同时《意见》对“合理范围”提供了三项细化考量因素：
•目的与模型功能的必要性、适当性：需要判断相关个人信息是否为实现该模型的特定功能所必需（即无该个人信息，相关功能无法实现）；是否存在侵入性更小的替代方案（如匿名化或聚合数据）；以及企业是否采取相应充分的安全保障措施。《理解与适用》中采用了一个较为极端的例子，即将个人信息用于训练违法（如色情服务）的模型，但这并不当然代表训练合法模型必然合规，还需结合个案评判目的必要性与适当性。例如在“麦某波诉北京法某科技有限公司、北京律某信息技术有限公司网络侵权责任纠纷案”[2]中，被告爬取分析、统计麦某波律师已公开的联系方式等个人信息，并在运营的平台上公开展示；法院认为，该处理行为会误导消费者以为麦某波与北京法某科技公司有合作关系，对个人权益有重大影响，也超出了麦某波在公开个人信息时合理预期的使用范围。
•信息的类型、敏感程度及潜在影响：个人公开信息中可能包含敏感个人信息，比如人脸信息等生物识别信息、身体健康等医疗信息以及行踪信息等，由于该类信息极易引发权益侵害问题，公开并不改变其敏感属性，处理此类信息还应符合特定目的、充分必要、采取严格保护措施等要求，并原则上取得个人的单独同意。企业还应评估模型是否可能记忆、复现或者推断相关信息，以及由此对个人权益造成的影响。
•信息公开场景及可合理预期的使用范围：社交平台的公开动态、学术论文的作者信息、司法裁判文书的当事人信息等个人信息，具有不同的公开目的和被使用预期。企业通过修改用户协议，将存量用户个人信息用于模型训练的，亦可能超出用户提交或者公开信息时的合理预期，超出合理范围的，应当依法取得个人同意。
需要指出的是，公开信息训练并非全无限制，除了“合理范围”以外，还需要满足个人未明确拒绝和对个人权益无重大影响等条件。信息已经公开，并不意味着个人放弃了对其个人信息的权益，不能直接推定权利人默许未经授权的训练使用。《意见》所称“一般不认定为侵害个人信息权益”，并不意味着企业可以免除《个人信息保护法》规定的其他义务，对于网络公开内容，AI训练主体仍需确保信息来源合法，并履行安全保护和个人权利响应等义务，恪守合法、正当、必要、诚信等原则，尊重个人信息主体的自主控制权，针对权利人或权利人设置的禁止抓取、拒绝授权等限制条件主动遵守。
因此，“信息已经公开”只是训练数据合法性审查的起点。企业应当将公开来源、原公开场景与训练目的的关联、个人合理预期、拒绝请求及重大影响评估纳入同一审查记录；涉及敏感个人信息的，还应核查相应特别保护要求。处理范围发生变化或者模型用途扩大时，应重新评估，而不能仅凭采集时的信息公开状态持续训练。
企业可以重点落实以下措施：
1. 开展训练数据合规评估。企业利用公开个人信息训练、微调大模型或算法的，应开展专项评估，参考上述要点，判断是否满足上述“在合理范围内处理”的要件。注意分别评估训练阶段与模型输出阶段的风险。即使训练数据来源和处理方式合法，模型后续复现、推断或者公开特定个人信息的，仍可能产生独立的侵权责任。
2.建立数据来源分层与台账。按照数据来源分层建立语料台账，区分个人自行公开、依法强制公开（司法公开、行政公示）、第三方采购、合作方授权等类型，记录取得时间、方式、公开场景和使用限制。对裁判文书、行政公示等强制公开渠道获取的信息审慎处理，因其公开目的（保障公众知情权、交易安全）与商业化模型训练之间未必具有当然的相容性。
3.排查历史承诺。核查自身及关联平台历史版本用户协议、隐私政策、公告中是否存在“不将用户内容用于AI训练”等承诺。新增或者变更训练用途前，应评估其对既有数据的适用范围，并履行相应告知、同意或者重新授权程序，避免因前后表述不一致而超出用户的合理预期。
4. 建立拒绝权响应机制。区分数据层和模型层建立便捷的拒绝处理响应渠道：数据层面停止将相关信息用于后续训练，依法删除或者隔离有关数据并记录操作；模型层面评估采取模型遗忘、重新训练或者参数调整的技术可行性，在无法即时消除模型影响时，可以先通过输出过滤等措施降低可识别信息再次生成的风险。同时，在隐私政策等在线协议中，据实说明处理、留存及模型遗忘的技术限制，避免做出可立即、完全删除等绝对化承诺。
四、知识产权与证据规则
（一）著作权侵权场景下的特殊考量
《意见》第十二条围绕生成内容侵权及各参与方责任展开，未论及人工智能生成内容的可版权性以及未经许可使用作品进行大模型训练的定性问题。第十二条罗列了人工智能生成内容侵害他人著作权的考量因素，包括人工智能服务类型、行业特点、训练数据来源、各方参与度、采取的必要措施以及获利情况等。
这一规则遵循“责任与主体控制能力、注意义务、商业收益相匹配”的核心逻辑。仅提供基础性、中立性技术服务，对内容生成干预程度低、可控性弱，且已主动落实合规防控、风险排查等必要措施、尽到合理注意义务的主体，会有更大的抗辩空间。在此情形下，AI服务提供者可以借鉴传统“避风港规则”的思路搭建通知、核查与处置机制，但企业最终是否承担责任仍需结合各项因素综合判断。
“美杜莎”案[3]的事前合规举措值得借鉴。该案中，涉案平台在用户协议、会员协议、创作者规范中明确告知用户“不得使用被保护版权内容”。在每个模型页面均设有“举报”功能，可以对侵权内容进行投诉通知。涉案平台在LoRA模型发布之前，设置了审核机制，对明显违反法律的内容予以屏蔽。以上举措共筑了“通知-删除”的第一道防火墙。
第二道防火墙则是“必要措施”。《理解与适用》结合《生成式人工智能服务管理暂行办法》第十四条，提出必要措施可以包括删除侵权内容、清理用户分享副本、屏蔽相关提示词、优化平台算法（对应《意见》中“权利人主张人工智能提供者利用算法技术侵害其著作权的，应当提供相关证据”）。其中“清理用户分享副本”与“优化平台算法”两项，值得特别关注。对于必要措施的认定标准，则仍回归到《民法典》第一千一百九十五条的规定，包括：采取措施是否具有技术上的可能性，是否为阻止侵权内容传播、防止再次生成侵权内容等所必需，是否会给第三人的合法权益造成损害。
因此，企业需梳理业务场景，审视停止生成侵权内容、屏蔽相关生成指令、清理用户分享副本、对实施侵权的用户采取警示限制暂停服务等必要措施机制如何在技术、产品环节进一步落地，例如：技术上完善提示词识别与拦截，减少同类侵权内容重复生成；产品端建立处置闭环，及时清理用户对外分享的侵权副本；针对反复侵权的用户落实警示、功能限制、暂停服务等梯度处置，完整留存全部处置痕迹，以此证明自身已经尽到合理注意义务。
（二）举证责任特殊分配：责令提供训练数据来源
《意见》第十二条还规定：人工智能开发者提出不侵权抗辩的，应当责令其提供训练数据来源、训练过程记录、模型运行模式以及科学理论依据等予以佐证。
企业无法举证说明训练数据来源、范围与使用情况的，法院可结合案件其他事实作出对其不利的推定。该规则将数据溯源、留存与举证义务分配给AI服务提供方，倒逼企业在模型研发阶段就建立训练素材的台账管理、来源核验与证据留存机制，否则在后续涉诉时将面临不利的诉讼境地。
（三）开源软件开发者、提供者的豁免
《意见》第十三条为开源软件开发者、提供者的责任豁免提供了空间：法院应当综合考量开源许可协议约定、许可条款的权利限制、开源软件开发者与提供者采取的安全合规措施、信息披露充分程度等因素；以免费开源方式提供代码模块并公开说明其功能和安全风险的，可能免于承担侵权责任。
第13条所体现的是与参与方式和风险防控相匹配的责任减免，而非“开源即免责”。企业可由研发部门维护软件物料清单（SBOM）和组件版本，由法务核验许可证及权利限制，由安全部门记录漏洞处置与更新情况，并将功能边界和风险提示随交付材料一并提供。免费代码模块与收费部署、运维等服务宜分别界定责任；存在配套商业服务并不当然排除豁免，仍须判断被诉行为、相关主体的实际参与及其满足的免责条件。
此外还需注意：其一，是否构成“免费”要结合是否配套商业化服务、双许可模式等实质获利情况判断，不能仅凭挂上开源协议就当然免责。其二，豁免以“公开说明功能和安全风险”为条件，故建议功能说明与已知风险披露应当形成正式文档随代码发布，而非散落在代码注释或社区讨论里。对下游使用方而言，引入第三方开源组件应建立组件与许可证类型清单，尤其要评估GPL等传染性许可证对自身产品分发方式的影响。该条款设计为个案裁量而非绝对免责，开发者对许可条件、安全风险和功能边界披露得越充分，越有利于其主张适当责任豁免。
（四）涉人工智能发明创造的可专利性
《意见》第十四条回应了涉人工智能发明创造的可专利性问题，落脚点仍是客观判断是否构成可保护的技术方案，人工智能本身不能被认定为发明人；自然人使用人工智能完成发明创造，并对其具有实质性特点的技术方案作出创造性贡献的，方可被认定为发明人。
企业应当在研发管理中建立“人类贡献留痕”机制，记录研究人员在问题界定、方案设计、结果筛选验证等环节的具体介入，这既是专利申请文件中发明人资格的支撑材料，也是日后面对权属或有效性质疑时的证据基础。
（五）AI生成内容作为侵权证据的审查
《意见》第十八条规定，当事人将人工智能生成内容作为侵权证据的，人民法院应当综合考量提示词的设计及其对生成结果的影响、生成内容与主张权利作品的相似程度、重复测试的一致性，以及模型训练、算法设计、生成内容过滤机制等因素予以认定。
1. 提示词的影响与重复测试的一致性
这两项要素在实践中是联动的，其核心问题是：输出结果究竟是模型能力的体现，还是提示词诱导的产物？
2026年7月31日，德国慕尼黑地区法院就GEMA v. Suno案[4]作出一审判决，认定Suno的模型对涉案六首音乐作品构成“记忆化”，训练行为与输出行为均构成侵权。其中关于提示词的说理尤为关键：Suno抗辩称原告使用了“复杂提示词”诱导生成，法院驳回了这一抗辩，理由是原告使用的提示词简单且对结果保持开放（部分提示词多次重复），是模型的架构与被记忆的训练数据、而非提示词，实质性地决定了输出结果。
这一说理直接对应了第十八条的两项要素：（1）提示词的设计及其对生成结果的影响。若提示词简单、中性、开放，而输出仍稳定再现原作，则输出结果应归因于模型本身；（2）重复测试的一致性。重复多次测试仍获得一致的相似输出，有助于排除偶发生成的可能，并证明相关输出具有一定稳定性。
2.算法设计与过滤机制
若人工智能服务提供者已在模型研发阶段配套构建相应的内容安全算法规则，部署完备的内容识别、拦截过滤机制，且能够举证证明该套算法与过滤体系在正常业务使用场景下可稳定、有效运行，则企业可据此提出抗辩：案涉侵权或有害输出，是用户通过提示词构造、分步拆解、变换编码等方式刻意规避算法管控与过滤机制所产生的特例结果，并非人工智能模型在常规使用情境下的一般性、常态化输出。
该项抗辩并非当然成立，其成立的核心前提在于服务提供者能够完整举证，提交算法设计逻辑、过滤机制技术方案、系统实际部署记录、版本迭代文档以及机制有效性测试、验证相关数据，用以佐证安全算法与过滤措施已切实落地并具备预期防护能力。企业还应留存涉案提示词、输出结果、生成时间和模型版本等记录，以便法院还原生成过程并判断侵权结果究竟源于模型自身还是用户的规避行为。
（六）其他
《意见》还讨论到了技术合同和数据权益。第十五条要求结合合同约定及合理努力等因素判断违约责任，并非研发失败即可免责。企业宜在合同中明确测试数据集、指标口径、验收条件、阶段交付、模型更新与技术风险分担，保存研发投入、试验结果、异常反馈和变更确认记录；对结果保证与合理努力义务作清楚区分，避免以笼统的“效果达标”代替可验证的交付标准。
第十六条对合法获取的数据权益提供多路径保护，并不意味着全部数据均产生排他的所有权。企业可建立数据来源和许可台账，分别核查作品、商业秘密、竞争法保护与个人信息处理要求，并明确再训练、转授权和衍生数据使用边界。对外主张数据权益时，还应留存投入、保密措施及被诉使用行为的证据；对内则应控制访问权限并记录异常标注、数据投毒等安全事件。
五、产品责任与自动驾驶
（一）AI产品的责任界定
《意见》第九条明确将“人工智能产品”界定为以实物为载体、具备物理形态的产品，因此纯软件形态的生成式服务（如无实体依托的云端算法或应用程序）通常不属于第九条“人工智能产品”规则的直接约束范围，但仍可能依据合同、侵权、个人信息保护、网络服务提供者责任等规则承担责任。在适用无过错责任的场景下，企业是否尽到警示说明义务及其履行质量，将成为判断产品是否存在缺陷的关键因素。
实务中的智能硬件普遍搭载自主感知、智能决策、自动识别等AI算法，相较于传统工业品，风险来源不仅包含物理硬件瑕疵，更突出体现为算法设计缺陷、智能识别偏差、场景适配不足以及功能边界滥用风险。在人形机器人、智能驾驶等高自主性产品中，安全隐患越难以预测和控制，风险已不仅来源于硬件瑕疵，也涉及算法运行和人机交互过程中的不确定性，而传统产品责任以出厂时状态为基础的缺陷认定框架面临挑战。
鉴于此，企业的合规义务不再局限于出厂硬件质量管控，更延伸至全生命周期的算法安全治理、功能边界公示、风险动态提示及版本迭代留痕。若企业未能清晰告知消费者AI系统的识别局限、决策风险、适用场景与禁止使用情形，即便产品无显性物理故障，也可能因未尽法定警示说明义务，被认定存在产品缺陷并承担无过错产品责任。
建议企业建立一套涵盖产品全生命周期的快速响应机制，及时收集市场反馈与事故数据，主动评估潜在风险，并制定相应的召回预案；同时，产品投放市场后的持续监控义务不可忽视，应系统性地留存警示说明内容的每一次版本更新记录，包括修订时间、变更理由及适用范围，以便在争议发生时提供清晰、可追溯的合规证据。
（二）自动驾驶与辅助驾驶的基本规则
《意见》第十一条对自动驾驶与辅助驾驶交通事故责任作出了系统规定，可以拆解为四个层次：
（1）一般责任规则：自动驾驶汽车、具备辅助驾驶功能汽车上道路行驶发生交通事故造成损害的，依据《民法典》和《道路交通安全法》有关规定承担赔偿责任。
（2）产品责任路径：因车辆存在产品缺陷导致交通事故造成损害，受害人可以依据《民法典》第七编第四章产品责任相关规定，请求生产者或者销售者承担赔偿责任。这为受害人开辟了绕开驾驶人、直接向车企主张的路径，这意味着，在事故原因涉及车辆缺陷时，责任主体并不限于驾驶人，消费者可以向车企或销售者主张产品责任。
（3）缺陷与过错结合的按份责任：具备辅助驾驶功能的汽车因车辆缺陷与驾驶人的过错行为结合导致同一损害，当事人可以依据《民法典》第一千一百七十二条关于数人侵权的规定，同时请求驾驶人和车辆生产者或者销售者承担赔偿责任。法院将结合各方过错程度、原因力大小等因素确定责任承担。
（4）虚假宣传责任：车辆生产者、销售者对自动化等级、智能程度、性能、用途等进行虚假或者引人误解的宣传，损害消费者合法权益的，消费者可依据《民法典》、《消费者权益保护法》等规定请求相关责任方承担民事责任。
（三）车企的合规重点：从驾驶员过错责任到产品责任
《理解与适用》用一句话概括了这一领域的责任逻辑：从具备驾驶辅助功能的汽车到自动驾驶汽车，车辆控制权从人类驾驶员到自动驾驶系统，侵权责任也从驾驶员过错责任逐渐过渡到产品责任。
对于辅助驾驶车辆而言，当损害既与驾驶人违反注意义务有关，又与辅助驾驶系统存在产品缺陷有关时，车辆缺陷与驾驶人过错可能构成“多因一果”侵权，应当将双方作为数人侵权主体，根据各自原因力和过错程度确定责任。若能证明驾驶人存在酒驾、严重超速等行为，足以独立导致事故，则可主张因果关系中断，即使车辆搭载辅助驾驶功能，也不当然由车企承担责任。司法实践中，对于辅助驾驶功能是否存在缺陷，核心在于判断车辆实际功能是否符合消费者基于产品说明、宣传内容形成的合理安全期待。例如在沈某敏诉泰州海某汽车销售服务有限公司产品责任纠纷案[5]中（下称“沈某案”），驾驶人因违反交通规则导致发生交通事故，以该功能局限为由请求生产者或销售商承担赔偿责任的，人民法院不予支持。
关于“消费者对宣传内容产生合理安全期待”这一问题，舒某贵诉汽车销售公司产品责任纠纷案[6]（下称“舒某案”）和沈某案作出了不同认定。沈某案中，车辆用户手册已明确该系统只能识别车辆尾部，无法识别骑行者和横穿车辆等，故事故发生和该系统功能无关。舒某案中，鉴定结果显示车辆实际触发效果和说明书描述的理想状态有很大差距。法院进而认为，尽管被告辩称说明书已说明该系统只是辅助功能，但亦不能免除该系统确实存在质量问题的认定。
上述案例表明：如果车企已经真实、充分披露辅助驾驶系统的能力边界和使用限制，功能局限本身通常不构成产品缺陷；但如果宣传内容扩大了消费者对系统能力的合理期待，而实际性能无法达到，则可能被认定为产品缺陷。
因此，车企应重点加强以下合规措施：
（1）准确标注自动化等级和功能范围，避免使用“自动驾驶”“完全智能驾驶”等可能导致消费者误解的表述；
（2）完善用户告知和风险提示机制，明确系统适用场景、限制条件、驾驶员责任以及接管要求；
（3）确保宣传材料、用户手册、车载提示信息保持一致，避免营销宣传与技术能力之间产生偏差；
（4）建立符合技术标准的安全管理体系。
此外，《智能网联汽车 组合驾驶辅助系统安全要求》（GB 47955-2026）、《智能网联汽车 自动驾驶系统安全要求》（GB 44721-2026）强制性国家标准已发布，均将于2027年1月1日起正式实施。前者对基础单车道、基础多车道、领航驾驶辅助等三类组合驾驶辅助系统分别提出相应的技术要求。后者适用于L3、L4级别的车辆，要求自动驾驶系统的激活和退出过程应安全，并明确就绪、激活、退出等状态信息及信号的提示规范。对于L3级自动驾驶系统还应具备驾驶人接管能力监测功能。同时，要求车辆制造商除产品使用说明书外，还可通过官网、车载显示终端等渠道清晰告知用户驾驶自动化等级、能力范围、局限性、控制策略及用户角色转换等关键信息，引导用户正确认知与使用。上述强制性标准构建起分级分类的技术安全与信息披露规则，也为司法实践中判断车企是否尽到产品安全义务、风险提示注意义务提供了重要的规范参照。对于车企而言，自动驾驶时代的核心合规要求已经不再只是车辆能否实现功能，而是车辆能力是否被准确表达、用户是否被充分告知、系统运行是否符合安全预期。
六、程序规则与诉讼合规
第十七、十八条将技术事实查明与证据可靠性审查纳入涉人工智能案件的处理框架。企业应围绕争议保全模型版本、提示词与参数、完整输出、重复测试结果和处置记录，记录提取时间、操作人员及校验信息。对于训练数据、商业秘密和个人信息，宜依必要范围提交并申请适当保护措施。控制证据的一方无正当理由拒绝提交，可能承担不利认定；但这并不等于所有涉人工智能案件均实行举证责任倒置。
依据第十九条，使用人工智能生成诉讼文书、案例检索报告等材料的，提交人应在提交法庭前核实引用内容，并在提交时说明人工智能辅助使用情况。律所和企业法务可由经办人员逐项对照官方法源及裁判原文，再由复核人员确认引用与待证事实的关联，留存核验记录及提交版本。生成工具的输出不能替代人工核验，提交人仍须依法对材料的真实性、准确性负责。
证据留存还须避免选择性呈现。使用人工智能生成内容证明侵权时，应保存完整提示词、生成条件及相关测试记录，说明截取范围，避免只提交有利输出造成误导。利用人工智能伪造证据、捏造事实进行虚假诉讼，可能引发程序制裁乃至刑事责任；技术工具的介入不改变真实性要求。第20条同时将利用人工智能实施犯罪纳入既有刑法评价，不能将技术创新本身等同于犯罪，也不能以技术中立免除实施者依法应负的责任。
七、消费者权益保护
《意见》第十条涉及对人工智能算法滥用侵害消费者权益的两类典型行为，并重点落脚于算法差异化定价与AI深度合成营销等典型风险场景。
在算法定价方面，法院将综合考量消费者权益受损情况、算法决策依据以及商业合理性，对差异化交易行为进行审查。具体而言，需判断该算法规则是否侵害消费者知情权、自主选择权、公平交易权，是否基于用户消费偏好、支付能力、浏览记录等个体特征针对性设置不公平交易条件，以及该差异化规则是否具备正当、充分、非歧视的合理商业理由。
因此，建议企业在设计和应用智能定价算法时，避免单纯基于用户历史消费能力、消费频率、价格敏感度等特征实施不透明差异化定价，并建立算法规则审查机制，留存用户分群逻辑、定价模型依据、规则调整记录等可追溯材料，以便在监管检查或争议处理中证明算法决策的合理性。
同时，《意见》明确，利用人工智能深度合成技术仿冒他人身份开展营销活动，误导消费者交易的，消费者可依据《消费者权益保护法》第五十五条主张惩罚性赔偿，该规则强化了对AI生成内容商业应用的约束，要求企业加强对AI生成广告、营销素材和数字人应用场景的审核管理，防止技术被用于虚假宣传或欺诈。
在企业执行层面，智能定价、用户分群、优惠券发放和排序推荐应由业务部门说明差异化规则的目的与依据，由法务及算法团队审查其对消费者权益的实际影响，并保留测试结果、审批记录和投诉复核记录。数字人、拟声及换脸营销则应在发布前核对授权对象、用途、期限及转授权范围，完成广告内容和生成合成标识审查，留存素材版本与授权凭证；标识并不能替代人格权益授权或者消除虚假宣传责任。
上述合规措施应落实到研发、数据、安全、业务和法务的职责与交接记录。上线审查形成责任人签署的版本记录，投诉处置形成接收、评估、措施及复核记录，重大更新后重新评估风险。结合第21至24条关于解纷和审判工作机制的安排，企业还可将纠纷中的技术材料整理为便于调解和司法审查的证据包，并根据后续典型案例及时更新合同与操作规范。
八、结语
此次《意见》的出台，标志着我国人工智能领域司法规则逐步从规则探索走向部分规则可落地的阶段。其并非简单限制AI产业发展，而是在鼓励创新与防范风险之间建立平衡，通过明确数据利用、算法应用、内容生成、智能产品和商业营销等场景中的责任边界，为企业人工智能应用提供可预期的合规指引。
未来，随着人工智能应用进一步融入产品研发、业务运营和消费者服务场景，AI合规必然成为企业治理体系的重要组成部分，这也要求企业围绕算法设计、数据处理、模型训练、内容生成、产品应用和风险响应建立全流程合规机制，加强授权管理、过程留痕、风险披露和持续评估，在技术迭代与法律合规之间找到平衡，真正实现人工智能产业的规范、健康、可持续发展。
注
[1] 杭州互联网法院（2025）浙0192民初18143号
[2] 广州互联网法院（2022）粤0192民初20966号
[3] 上海知识产权法院(2025)沪73民终1189号
[4] Landgericht München I，案号42 O 763/25
[5] 江苏省泰州市高港区人民法院(2022)苏1203民初2530号
[6] 怀化市鹤城区人民法院（2021）湘1202民初7684号
免责声明
上述内容不代表我们对有关问题的法律意见，任何仅依照本文件的全部或部分内容而作出的作为或者不作为决定及因此造成的后果由行为人自行负责，如需专业法律意见，请联系M姐律师团队。
往期精选
↗AI X 出口管制 | 技术优势如何转化为国家权力-从出口管制角度解读美国《国家安全科技战略》
↗AI X 知识产权|美国司法部介入OpenAI与《纽约时报》版权纠纷：AI训练合理使用的政策立场如何形成
↗AI X 竞争法|竞争法一周资讯汇总
↗《重庆市数据安全管理条例》9月1日起施行：企业数据合规“硬指标”清单
