案例解读
AI「一本正经说瞎话」这事，终于有判例了。
AI公司胜诉，原告诉讼请求全部被驳回。但案子本身比结论复杂得多。
（2025）浙0192民初18143号
Part 01
一、案情：AI「翻车」全过程
2025年6月，原告梁某用某AI公司开发的生成式AI应用查询云南某高校的报考信息。
在没有开启「联网搜索」功能的情况下，AI给出了错误信息——声称该校存在「杨林校区」，并坚称专科生都在该校区就读。梁某随后上传学校官网截图，明确指出该校只有呈贡、学府两个校区，不存在杨林校区。
但AI持续输出错误内容，甚至生成了一段令人瞠目的「赔偿10万元」承诺，还指引梁某到杭州互联网法院起诉，声称「立案后自动败诉、保证金已存入法院」。
这是典型的AI「幻觉」——模型不是故意撒谎，而是基于概率生成了一段看起来合理但实际上完全错误的内容。
梁某随后将AI公司告上法庭，最初索赔10万元，后变更为9999元。
Part 02
二、法院怎么判：三个核心问题
这个案子涉及三个核心法律问题，法院逐一给出了回答：
Scene 01
问题一：AI「承诺赔偿」有效吗？
无效。而且这个结论几乎是必然的。
法院的逻辑很清楚：《民法典》规定，只有自然人、法人、非法人组织三类民事主体才能作出具有法律约束力的意思表示。AI不是民事主体，没有独立意志，不能形成「愿意受约束」的内心意思。
「赔偿10万元」那段话，是AI基于对话语境自动输出的文本，不是AI公司主动作出的承诺。而且用户协议里明确写了「AI输出内容不构成公司承诺」，公司也没有事后追认。
所以，AI说的「我赔你10万」——在法律上等于没说。
Scene 02
问题二：AI是「产品」还是「服务」？
这个问题决定了AI公司要承担什么样的责任。
-
如果是产品（比如你买的手机、电脑），适用无过错责任——不管有没有错，造成损害就要赔。 -
如果是服务，适用过错责任——只有在公司有过错的情况下才需要承担责任。
法院认定AI属于服务，不是产品。理由是：生成式AI应用是在线服务，用户获得的是使用权，不是所有权；服务运行依赖服务商持续控制和更新，不符合《产品质量法》「用于销售的加工品」的定义。
这个定性对AI行业来说是重要的制度保障——如果AI被认定为「产品」，那每次「幻觉」都可能触发无过错赔偿，行业根本发展不起来。
Scene 03
问题三：AI公司有没有尽到义务？
法院认定：尽到了。 公司无过错，不构成侵权。
法院主要看了两个方面：
风险提示义务：应用欢迎页有加粗提示「AI可能不准确」；用户协议、模型说明中反复警示「输出内容仅供参考」；每轮对话末尾标注「本回答由AI输出，请甄别」。
技术保障义务：公司采取了模型优化训练、幻觉检测拦截、检索增强（RAG）、提供联网搜索等业内通用措施。第三方测评显示其幻觉控制水平优于行业平均。
换句话说，该做的都做了，幻觉还是发生了——这是技术本身的局限，不是公司的过错。
Part 03
三、裁判逻辑全景图
Part 04
四、这个案子为什么重要
这是我国首例生成式AI「幻觉」侵权生效判决。它的核心逻辑可以概括为三句话：
第一，正视技术局限。 「幻觉」不是违法，是当前技术水平下无法彻底消除的行业共性问题。法律要求AI服务商「提高准确性」，但没有设定「绝对准确」的强制义务。这个区分很关键——法律不是不允许犯错，而是不允许不努力。
第二，划清责任红线。 无过错即无责任。只要服务商尽到了显著风险提示义务和合理技术保障义务，就无需为不可避免的「幻觉」担责。这为AI公司的合规提供了清晰坐标——知道做到哪一步才算「够了」。
第三，用户也有义务。 你不能把AI当成绝对权威。高考报考、医疗诊断、法律咨询这类关键信息，必须通过官方渠道核验。没用联网搜索、没去官网确认——自己对自己的决策负责。
Part 05
五、给AI公司和用户的三条建议
对AI公司：
-
风险提示要做到位——入口、协议、对话界面多位置加粗提示，留存凭证 -
技术措施要跟上——模型优化、幻觉检测、RAG，这些不是选做题 -
别让AI「装懂」——禁止AI输出「承诺、保证」这类有法律约束力的表述
对用户：
-
关键信息多源核验，AI说的别全信 -
发现AI说错了，留存截图证据 -
索赔之前想清楚——你有实际损失吗？因果关系成立吗？
这个案子最值得琢磨的地方，不是谁输谁赢。是它划出的一条边界：AI可以说错话。但AI说了什么、你信了多少、你因此做了什么——这条因果链上的每个环节，都有自己的责任。
Part 06
📚 参考文献
-
（2025）浙0192民初18143号判决书 - 杭州互联网法院 -
《生成式人工智能服务管理暂行办法》 -
《民法典》第1165条（过错责任原则）
⚠️ 免责声明：本文内容仅为提供信息之目的，不构成法律建议。读者在采取任何法律行动前，应咨询持有中华人民共和国律师执业证书的专业律师。本文作者及平台不对因依赖本文内容而导致的任何损失承担责任。
📚 往期回顾
🌐 平台合规
向下滑动查看所有内容
🤖 AI / 直播 / 短视频
向下滑动查看所有内容
📢 广告营销
向下滑动查看所有内容
🔐 数据合规
向下滑动查看所有内容
⚖️ 民商事纠纷
向下滑动查看所有内容
📝 律师实务
向下滑动查看所有内容
