导读大模型幻觉不是一个单点故障。知识缺失、过期检索、推理或指令错误，以及训练偏好错位，最后都可能表现为一句自信却不可靠的回答。RAG 只负责“检索资料后再生成”，不能包办证据验证和推理校验。本文结合 2026 年四项研究，给出一张根因—治理地图和一套三步排查法。
先别问“怎么消灭幻觉”，先问它错在哪一层
把所有错误回答叫作“幻觉”，很容易把工程决策做粗。用户看到的是一句错误的话，系统内部却可能是不同的失败：模型没有相关知识；模型记住的知识已经错了或过时了；系统拿到了错误资料；模型没有正确使用给定上下文；推理或指令执行走偏；又或者明明没有足够依据，回答策略却没有让它停下来。
ACL 2026 的 PRISM 把幻觉诊断拆成四个维度：知识缺失、知识错误、推理错误、指令遵循错误，并把它们放回记忆、指令和推理阶段观察。这个拆法的价值不在于给幻觉发明更多名字，而是提醒我们：同一句错误答案，未必该用同一种补丁。
例如，问“今天某项政策是否仍有效”，模型引用一篇两年前的正确旧文，问题不一定在生成器，而在运行时证据的时间有效性；给它最新材料却仍把条件 A 推成结论 B，问题更接近推理或上下文使用；如果模型在不知道时仍把话说满，则还涉及校准与回答策略。
这些问题也不是互斥的。一次错误可能同时包含过期资料、上下文错配和过度自信。下面这张图是基于论文证据整理出的工程排查地图，不是 PRISM 原论文的完整分类，也不是“一类错误只对应一种方案”的一一映射。
先定位主要失败层，再组合治理动作。
RAG 不是全部：先分清资料、工具和生成流程
模型在推理时会同时接收系统提示词、用户问题、用户提供的文件、检索文档和工具返回结果等多种信息。系统提示词主要约束行为，用户问题定义任务；文档、网页、数据库结果或 API 返回值则可能提供事实材料。只有来源、时间和内容经过检查的材料，才适合作为可核验的证据。
网页搜索、向量库、数据库查询和 API 调用不是证据本身，而是取得材料的方式。RAG（检索增强生成）是最常见的一种流程：先从资料库中检索相关片段，再把片段交给模型生成答案。它主要解决模型自身知识不够新、不够全、不可追溯的问题，尤其适合企业制度、产品文档、专业知识库和需要最新事实的问答。
Agent 的网页搜索通常比传统 RAG 更长：它可能打开页面、筛选来源、抽取关键事实，再做必要核验。因此，搜索不该被写成与 RAG 平行的万能方案；搜索是获取外部资料的一种工具，RAG 是把检索资料用于生成的一种流程。
更好的分层是：
证据从哪里来：知识库、网页搜索、数据库、API，或用户提供材料；
证据是否可信、完整、仍然有效；
模型是否真正依据证据作答；
没有足够证据时，系统是否会降级、追问或拒答。
第二层常被忽略。Re³ 研究讨论的正是这种失败：检索器拿回来的内容和问题主题相关，却已经过期。论文把它称为时间幻觉，并在动态任务中用时间感知相关性和冲突感知的新近性过滤来压制旧版本事实。作者报告，Re³ 在三个公开基准和 Re² Bench 上相较最强基线平均提升 9.7% 的生成准确率，在高难动态任务上最高提升 25.2%。这些是论文实验口径下的结果，但它说明了一个通用风险：检索到相关内容，不等于检索到当前有效的证据。
图片说明：Re³ 先将查询和候选资料中的时间信号纳入相关性判断，再对彼此冲突的事实版本做新近性筛选；图中天气案例只说明该论文的机制示例，不代表通用效果。图片来源：Re³: Relevance & Recency Retrieval for Mitigating Temporal Hallucination Figure 1
一张根因—治理层地图，避免把工具用错位置
知识缺失、知识过期：先补证据，再管证据版本
这类问题优先处理证据获取。对稳定的内部知识，知识库或数据库查询通常更可控；对变化快、来源分散的公开事实，网页搜索与官方 API 更合适。关键不是“接了搜索”，而是要保留来源、时间、版本和冲突处理规则。
检索增强在这里有清晰边界：它能让模型有材料可用，却不能保证材料覆盖问题，也不能自动让模型忠实引用材料。高风险场景至少应将关键主张拆出来，逐项检查是否有证据支持；证据冲突时，不能只按语义相似度挑一段最像答案的文字。
推理错误、上下文错配：让生成过程接受可检查的约束
如果答案已经有足够且正确的上下文，问题就不再是“找资料”。这时可把复杂任务拆成可核验步骤：计算交给执行器，结构化事实交给数据库或规则，关键结论回链到对应证据。对长文档问答，还要检查模型是否漏掉限定条件、把不同段落的人物或时间混在一起。
多次采样和自一致性可以暴露不稳定性，却不能把多数投票误当真相：多个回答可能稳定地重复同一个错误。它更适合作为触发复核的信号，而不是最终事实裁决。
“明明不确定，却答得很满”：增加检测、降级与拒答
有些部署场景无法访问生成模型的 token 概率和内部状态，也拿不到搜索结果或知识库作为事实参照。HCPD 讨论的就是这种零源约束：检测器只看到一个问题—答案对，动态生成事实、逻辑、语义等评判维度及其权重，再通过多次采样聚合评分。
图片说明：HCPD 对同一问答对动态生成评判准则和权重，经多次采样后聚合为可信度分数；它不等同于外部事实查证。图片来源：Zero-source LLM Hallucination Detection with Human-like Criteria Probing Figure 1
它适合做风险筛查、排序，或把可疑回答路由给搜索与人工复核，但不能替代外部事实查证。尤其在医疗、法律、金融等场景，被判为高风险或低可信的输出不该只是“换一种措辞继续答”，而应明确说明证据不足、请求补充材料或转人工。
训练偏好把“流畅”错当“真实”：要回到数据与对齐目标
系统也可能在训练阶段被推向“完整、有把握、好读”的回答风格。DPO（直接偏好优化）会用“更受偏爱的回答”和“被拒绝的回答”组成偏好对来训练模型，但更受偏爱不等于更符合事实。F-DPO 的出发点很直接：当偏好顺序与事实性冲突时，用二值事实标签翻转错误排序，并给事实差异更大的样本更强约束。
作者在 7 个 1B—14B 的开放权重模型上报告了事实性提升；其中 Qwen3-8B 的幻觉率从 0.424 降到 0.084。这是该论文数据与实验设置下的结果，不应外推成任何模型都能获得的承诺。它真正有价值的提醒是：“让模型更会迎合”与“让模型更接近事实”不是同一个训练目标。
真正落地时，先按三个问题排查
第一问：回答所需的事实，系统拿到了吗？没有就补知识库、搜索、数据库或 API；涉及动态事实，还要检查时间和版本。不要在证据缺失时先调提示词。
第二问：拿到的材料真的支持答案吗？检查来源是否可信、片段是否覆盖问题、版本是否有效，以及答案中的关键主张能否回链到对应证据。对会调用网页搜索、数据库和 API 的 Agent，还要记录每个结论来自哪个工具、哪个时间点。把“搜到页面”和“页面支持这句话”混为一步，才会出现“模型已经搜索过，为什么还答错”的错觉。
第三问：证据充足后，模型仍然答错吗？如果是，就检查指令理解、上下文使用和推理过程；把计算交给执行器，把结构化约束交给规则或数据库。若问题来自偏好目标或长期稳定的回答倾向，再考虑调整训练数据与对齐方法。若暂时无法定位，就先用检测、降级和人工复核控制风险。
因此，一个内部知识问答的最小闭环可以是：可信知识源 → 检索与版本控制 → 生成时绑定证据 → 校验关键结论 → 证据不足或风险过高时拒答、追问或转人工。
别把治理目标写成“零幻觉”。开放世界里，知识会变、检索会漏、问题会含糊。更现实的目标是让系统做到：有证据时可追溯地回答，证据冲突时解释不确定，证据不足时停止编造。
参考资料
PRISM: Probing Reasoning, Instruction, and Source Memory in LLM Hallucinations： https://aclanthology.org/2026.acl-long.1551/
Re³: Relevance & Recency Retrieval for Mitigating Temporal Hallucination： https://aclanthology.org/2026.acl-long.1180/
Reducing Hallucinations in LLMs via Factuality-Aware Preference Learning： https://aclanthology.org/2026.findings-acl.1968/
Zero-source LLM Hallucination Detection with Human-like Criteria Probing： https://arxiv.org/abs/2606.12900
— THE END —
文章仅做学术分享，如有侵权请联系删除，非常感谢！