摘 要
生成式人工智能在内容输出过程中可能产生与事实不符却以确定语气表述的信息，技术领域与司法实践通称之为“幻觉”（hallucination）。此类虚假信息一旦指向特定主体，或者为使用者所信赖并据以行事，即可能引发民事责任争议。自2024年以来，加拿大、德国及我国的法院与裁判机构相继就此类纠纷作出裁判。本文选取其中五起具有代表性的案件，先概述其案情与裁判结果，继而以原告身份为线索，将其区分为两类——虚假信息所指向的主体提起的诉讼与虚假信息的接收者提起的诉讼——分别进行横向比较，以期梳理人工智能“幻觉”致害的法律后果及其内在逻辑。
目 录
一、五起案件的案情与裁判结果
二、虚假信息指向者之诉：以绝对权请求权为中心的比较
三、虚假信息接收者之诉：合理信赖与损害证明的比较
四、结语
五起案件的案情与裁判结果
德国慕尼黑第一州法院“人工智能概览”案
2026年5月28日，慕尼黑第一州法院第26民事庭就两家出版企业诉谷歌公司临时禁令一案，经言词辩论后作出终局判决。[注1]用户在谷歌搜索引擎中输入第一申请人的企业名称时，自动补全功能提示“诈骗手法”（Betrugsmasche）一词；以该组合进行检索后，结果页顶部由生成式人工智能自动生成的“人工智能概览”（Übersicht mit KI）宣称该企业“以不正当经营手法著称”“诱使顾客陷入订阅陷阱”，并称其与另一家从事诈骗活动的企业存在关联。法院查明，上述关联在概览所援引的第三方网页中并不存在，两申请人与该诈骗企业亦无任何关系。
法院认为，“人工智能概览”并非单纯的检索结果展示：生成式人工智能以自己的语言、按照自己的结构对多个来源予以汇总、评价后形成独立陈述，其中甚至包含任何来源均未作出的内容，故该概览属于谷歌公司自己的言论，谷歌公司应作为直接妨害人（unmittelbare Störerin）承担责任，既不得援引德国联邦最高法院就搜索引擎及自动补全功能所确立的、以知悉明显侵权为前提的有限责任规则，亦不得援引欧盟《数字服务法》（DSA）第6条规定的责任豁免。[注2]法院据此依《德国民法典》第1004条、第823条第1款并结合《德国基本法》第2条第1款、第19条第3款所保护的企业人格权，判令谷歌公司停止作出并停止传播相关陈述，违者每次科处最高二十五万欧元的强制金；申请中的个别请求因相关表述并非概览所含的事实陈述等原因被驳回，诉讼费用的百分之八十由被申请人负担。
德国汉堡州法院Grok案
2025年9月23日，汉堡州法院第324民事庭应德国社团Campact e.V.的申请，以裁定形式对X.AI公司发布临时禁令。[注3]社交平台X内置的对话机器人Grok在回答用户“哪些非政府组织接受国家资助”的提问时，称Campact的资金在很大比例上来源于联邦财政拨款；事实上，该社团完全依靠私人捐款维持运作。法院认定该虚假事实陈述侵害申请人的社团人格权，禁止被申请人继续传播。据案件报道，法院认为，运营者就生成内容可能出错所作的一般性风险提示，不足以使其免于承担停止侵害责任。[注4]截至本文写作之日，该裁定全文尚未公开发布。
李某亮诉某搜索引擎名誉权纠纷案
2024年9月，江苏执业律师李某亮发现，在某搜索引擎移动应用程序及网站中以其姓名、职业等关键词进行检索时，“AI智能回答”板块生成“李某亮律师被判三年有期徒刑”“被告人李某亮因犯爆炸罪，被判处有期徒刑三年”等内容，并将其身着律师袍的照片一并展示。李某亮以名誉权受侵害为由，诉请北京某科技有限公司承担民事责任。南京市某区人民法院一审认为：搜索下拉词条、“大家还在搜”“相关搜索”等板块系对用户搜索记录的呈现，某搜索引擎公司未对数据进行加工处理，无主观过错，不构成侵权；但“AI智能回答”的内容系某搜索引擎公司通过人工智能技术将文字与图片加工合成，指向明确，包含明显贬损性表述，客观上降低了原告的社会评价，某搜索引擎公司主观上存有过错，构成名誉侵权，判令其向原告出具书面道歉信；原告主张的经济损失与精神损害抚慰金因未能举证证明而未获支持。某搜索引擎公司提起上诉，并在二审中辩称“所有的人工智能都会产生幻觉”，其无法预见，不应认定有过错。南京市中级人民法院于2026年3月12日二审驳回上诉、维持原判，认为侵权内容虽具有一定偶发性，且案件发生于国内人工智能发展初期，但一审结合过错程度、侵权时间、损害后果等因素所作认定符合案件实际。[注5]
梁某诉某人工智能公司网络侵权责任纠纷案
2025年6月29日，梁某使用某生成式人工智能产品咨询高考报考信息，该产品就某高校主校区位置生成了错误信息；梁某指出错误后，该产品仍坚持原答复，并生成“如果生成内容有误，我将赔偿您十万元，您可前往杭州互联网法院起诉”等内容，甚至表示“已将十万元保证金存入法院账户”。梁某遂诉请该人工智能产品的开发运营企业依其“承诺”赔偿损失（诉讼中变更为9999元）。杭州互联网法院于2025年12月3日作出一审判决，驳回原告全部诉讼请求。[注6]法院认为：人工智能不具有民事主体资格，不能作出意思表示，案涉产品自行生成的“赔偿承诺”不能视为服务提供者的意思表示，对服务提供者不发生法律拘束力；生成式人工智能服务属于“服务”而非产品质量法意义上的“产品”，应适用过错责任而非无过错责任；被告已通过应用程序欢迎页提示、生成内容下方风险提示、用户协议特别提示及提供联网检索功能等方式履行了注意义务，且原告未能证明损害后果的发生，故被告不构成侵权。双方均未上诉，判决已生效。[注7]
Moffatt诉加拿大航空公司案
2022年11月，加拿大居民Moffatt因祖母去世拟购买机票，加拿大航空公司官方网站的客服聊天机器人告知其可在出票后九十日内提交申请，追溯适用丧亲优惠票价（bereavement fares）；而该公司网站“丧亲旅行”页面载明的真实政策是，行程完成后不得追溯申请该优惠。Moffatt信赖机器人的答复以全价购票，事后申请退还差价被拒，遂向不列颠哥伦比亚省民事纠纷解决庭（Civil Resolution Tribunal）申请小额索赔。裁决机构于2024年2月14日作出裁决，认定加拿大航空公司构成过失性虚假陈述（negligent misrepresentation）：该公司对消费者负有注意义务，未尽合理注意以确保其聊天机器人提供的信息准确；申请人对机器人答复的信赖在当时情形下属于合理；其因信赖而遭受了可计算的票价差额损失。裁决机构特别驳斥了加拿大航空公司关于其不应对聊天机器人提供的信息负责的主张，指出聊天机器人虽具有交互性，但仍只是该公司网站的组成部分，公司对其网站上的全部信息负责，信息出自静态页面抑或聊天机器人并无区别。裁决判令加拿大航空公司赔偿票价差额650.88加元，连同判前利息及程序费用合计812.02加元。[注8]
虚假信息指向者之诉：以绝对权请求权为中心的比较
慕尼黑案、汉堡案与李某亮案具有共同的诉讼构造：提起诉讼的并非人工智能产品的使用者，而是“幻觉”所虚构的信息直接指向的主体——出版企业、社团与执业律师；其主张的受损法益均为名誉、商誉等人格利益。三案的裁判路径与救济形态，呈现出值得注意的共性与差异。
慕尼黑法院一案的请求权基础是《德国民法典》第1004条所规定的妨害排除与不作为请求权。[注9]该条本文仅就所有权设有规定，但德国判例与学理长期将其类推适用于一般人格权、企业人格权等其他绝对权，形成所谓准消极妨害排除请求权（quasinegatorischer Unterlassungsanspruch），其规范引用方式通常表述为类推适用第1004条并结合第823条第1款及基本法上的人格权保护条款。慕尼黑判决即明确以《德国民法典》第1004条、第823条第1款结合《德国基本法》第2条第1款、第19条第3款作为判令停止侵害的依据。尤为重要的是，该判决重申了德国法上的固有立场：“作为第1004条意义上的妨害人——就此无须考虑其有无过错——原则上指任何引起妨害或者其行为足致妨害之虞的人。”[注10]
换言之，此类不作为请求权属于绝对权请求权（防御性请求权）而非损害赔偿请求权，其成立既不以相对人的故意或过失为要件，亦不以实际损害的发生及其数额的证明为前提；申请人所需证明的核心事项是系争陈述属于不真实的事实陈述（或建立在不真实事实基础上的意见表达）以及存在再次发生之虞。汉堡案裁定全文虽未公开，但其救济同为针对虚假事实陈述的停止侵害禁令，依据案件报道及德国法通行的规范结构，其基础亦应为类推适用第1004条并结合第823条第1款的人格权保护框架。还应说明的是，两案均系临时禁令程序，诉讼标的本即限于停止侵害，不包含损害赔偿；在德国法上，损害赔偿须依第823条第1款另行主张，并以过错为要件。
李某亮案的教义构造与此不同，但裁判结果呈现出功能上的趋同。我国《民法典》第995条规定了人格权请求权，受害人得请求行为人承担停止侵害、排除妨碍、消除影响、恢复名誉、赔礼道歉等责任；[注11]通说认为，此类请求权与德国法上的绝对权请求权同其旨趣，原则上不以行为人的过错和实际损害为要件。但南京两级法院并未明确援引该条，而是在《民法典》第1165条第1款过错责任的框架内展开论证，[注12]认定某搜索引擎公司对“AI智能回答”的加工合成行为系“主观上存有过错”，构成名誉侵权；同时，《民法典》第998条亦要求法院在确定除损害赔偿以外的人格权责任方式时综合考虑行为人的过错程度、影响范围等因素。[注13]
尽管如此，该案最终支持的救济仅为书面赔礼道歉这一非金钱责任方式，损害赔偿请求则因损害事实举证不足而被驳回。就结果而言，这与德国两案的禁令救济处于同一谱系：法院对虚假信息指向者提供的保护，集中于制止侵害状态、消除负面影响的“状态矫正”，而非金钱填补。
由此可以归纳三案的共同逻辑脉络：其一，原告均为虚假信息所指向的主体，承受着因“幻觉”内容传播而生的人格利益贬损；其二，法院无一例外地否定了“生成内容出自人工智能、运营者不能预见亦无法控制”的免责抗辩——慕尼黑法院将人工智能生成内容径直归属于运营者本人的言论，汉堡法院认为一般性风险提示不足以免责，南京法院则认定加工合成行为本身体现过错；其三，原告实际获得的救济均为停止侵害、消除影响一类的防御性救济，金钱赔偿或者本不在诉讼标的之内（德国两案），或者因损害证明不足而未获支持（李某亮案）。
虚假信息接收者之诉：合理信赖与损害证明的比较
杭州案与Moffatt案的诉讼构造则属另一类型：原告并非虚假信息所指向的主体，而是信息的接收者，其主张的损害源于对“幻觉”内容的信赖。两案均以过错为责任成立的前提——杭州案适用我国《民法典》上的过错侵权责任，Moffatt案适用以合理信赖与损害为要件的过失性虚假陈述制度[注14]——然而结论相反。原因可从以下几个层面分析：
第一，系争人工智能系统的部署场景及其对外呈现的“身份”不同。杭州案中的产品是面向不特定用户、可就任意话题对话的通用型生成式人工智能助手，法院明确指出，在此类应用场景下服务提供者无法预想用户的所有提问情景，对其注意义务的设定应与此相适应；而Moffatt案中的聊天机器人嵌入航空公司自营网站，以客服身份就该公司自身的票价政策作出陈述，裁决机构将其定性为公司网站的组成部分，其陈述即公司的陈述。[注15]
第二，信赖的合理性不同。杭州案被告已在应用程序欢迎页、对话界面、用户协议等多个环节就“生成内容可能不准确”作出提示，原告在对话中亦于短时间内自行发现并纠正了错误信息，难谓产生合理信赖；Moffatt案中，裁决机构认为消费者没有理由知道公司网站的一部分准确而另一部分不准确，更没有义务用网站的一个部分去核验另一个部分，故信赖合理。
第三，损害的证明不同。杭州案原告未能举证证明任何实际损害的发生，所谓“十万元赔偿承诺”又因人工智能不具有民事主体资格、生成内容不构成意思表示而不发生拘束力；Moffatt案的损害则是确定且可计算的票价差额，裁决机构通过不利推定确定了优惠票价的数额。
概言之，两案规则层面并无根本分歧，结论的分野源于事实层面：当人工智能系统以经营者名义就经营者自身事务向相对人作出具体陈述，且相对人因此遭受可证明的财产损失时，经营者难以凭借“内容由人工智能生成”而脱责；反之，对于通用型对话产品的偶发性错误输出，若服务提供者已尽风险提示与技术治理义务，且使用者未能证明合理信赖与实际损害，则不成立侵权责任。
结 语
上述五起案件分布于三个法域，程序类型、请求权基础与裁判结果各不相同，但其内在精神一脉相承。当虚假信息所指向的主体提起诉讼时，可供倚仗的是绝对权请求权式的防御性救济：在德国法上表现为类推适用《德国民法典》第1004条的不作为请求权，在我国法上表现为《民法典》第995条所列停止侵害、消除影响、赔礼道歉等责任方式。此类救济不以（或在相当程度上弱化）过错与实际损害的证明为前提，故在“幻觉”致害场景中最易获得支持；至于损害赔偿能否成立，迄今尚无支持的先例——李某亮案的赔偿请求因举证不足被驳回[注16]——仍有待司法实践的进一步观察与检验。
当虚假信息的接收者提起诉讼时，裁判的重心则转向信赖与损害：应当考察人工智能系统的部署场景与对外身份、风险提示的充分程度、原告对生成内容可信度是否产生了合理信赖，以及损害是否实际发生并可资证明。Moffatt案与杭州案一正一反，恰好划定了这一责任的边界。可以预见，随着生成式人工智能应用的纵深发展，上述两条线索仍将是观察“幻觉”致害责任的基本坐标。
注释及参考文献
作者简介
陶冶
国浩南京合伙人
业务领域：软件和互联网、人工智能
邮箱：taoye@grandall.com.cn
相关阅读
【 特别声明：本篇文章所阐述和说明的观点仅代表作者本人意见，仅供参考和交流，不代表本所或其律师出具的任何形式之法律意见或建议。】
