文｜南都记者 李玲
随着 AI 大模型的普及，“遇事问 AI"已成为常态，但模型“一本正经胡说八道”引发的纠纷频发：从虚假预订餐厅、误导机票退改，到将执业律师污蔑为罪犯，AI“幻觉”正带来现实损失。究竟谁该为此买单？
6 月 12 日，南方都市报在京举办“数字经济治理沙龙”，北京交通大学法学院副教授付新华就《生成式人工智能“幻觉”的法律治理》进行分享。她指出，近期德国法院裁定谷歌需对 AI 摘要负责，而国内首例 AI 幻觉案则判定平台胜诉。看似相反的判决背后，实则是案情细节与法律焦点的差异。
德国法院首次裁定：谷歌须为 AI 幻觉直接担责
近日，德国慕尼黑地方法院针对谷歌 AI 摘要（AI Overviews）散布虚假信息一案作出临时禁令，裁定谷歌需承担直接责任并停止侵权。该案起因于谷歌 AI 在搜索结果中捏造两家德国出版公司存在诈骗及不正当商业行为，尽管出版商曾要求止损，但未获回应。
谷歌辩称，AI 摘要仅为搜索引擎结果的汇编，且已提供来源链接，用户有义务自行核验。然而，法院指出，涉事虚假信息在来源页面中根本不存在，系 AI 自行整理生成的不实表述。法院强调，平台不能在宣扬 AI 权威性的同时，又将核实责任推给用户。
虽此裁定仅为临时禁令，谷歌仍可上诉，但这标志着司法界首次明确平台需为 AI 幻觉承担责任，对未来全球 AI 侵权责任认定具有深远影响。
付新华参加南都研讨会。南都 N 视频记者莫倩如/摄
付新华分析，全球范围内针对 AI 幻觉的司法判例尚存分歧。以中国首例 AI 幻觉侵权案为例，用户因 AI 提供错误高校信息并承诺“有误赔偿 10 万元”而提起诉讼。2026 年 1 月，杭州互联网法院一审驳回原告诉求，理由是 AI 不具备民事主体资格，其生成的“赔偿承诺”不能视为服务提供者的意思表示；且生成式 AI 属于服务而非产品，不适用无过错责任原则。
“中德两案判决结果看似相反，实则焦点不同。”付新华指出，德国案聚焦 AI 对第三方的不实陈述，而国内案核心在于 AI 自行生成的“承诺”是否构成法律效力。
AI 幻觉过错认定：责任始终归于人类主体
从技术原理看，幻觉是大模型基于概率预测生成的结构性产物，难以根除。当模型以确定性口吻输出虚假信息，极易诱导用户产生不当信赖。付新华指出，损害情形多样，包括司法领域虚构判例、消费领域虚假承诺以及侵犯个人名誉权等。
AI“承诺”非法律意思表示
针对 AI 生成的“赔偿承诺”是否有效，付新华认为，代理行为以独立意思能力为前提，AI 仅是履行义务的工具，不具备该能力，因此其承诺不能等同于法律意义上的意思表示。
归责核心在于人的注意义务
关于如何归责，国内司法实践倾向于“动态系统论”，将抽象的“合理注意”拆解为具体内容安全审查、功能局限告知及基础可靠性保障等义务。例如，平台需采用检索增强生成（RAG）等技术措施提升准确性。
域外案例同样印证了责任归于“人”的原则。在美国一起案件中，ChatGPT 生成虚假诉状指控主持人挪用公款，法院最终裁定 OpenAI 胜诉。理由是使用者在主观上并不相信该内容为真，且原告无法证明 OpenAI 存在“实际恶意”。
治理难点与路径
付新华提示，AI 幻觉治理面临多重挑战：致害对话难以重现导致举证困难，责任链条涉及开发方、平台及用户等多方主体，配置复杂。她主张坚持“解释论优先”，先穷尽既有民事规范，再考虑立新法。未来的治理应兼顾技术创新与用户保护，通过前端合规与后端追责的衔接，构建分层治理体系。