大数跨境

Google研究人员通过“充分上下文”信号改进RAG

Google研究人员通过“充分上下文”信号改进RAG 搜索引擎报
2025-03-17
0
导读:Google研究人员通过引入充分上下文信号来优化RAG,以减少幻觉并提高回答准确性

Google研究人员提出了一种增强检索增强生成(RAG)模型识别上下文充分性的新方法,旨在提升AI搜索与助手的回答可靠性。该方法通过判断检索信息是否具备回答查询所需的完整背景,减少因信息缺失导致的“幻觉”现象。若该技术落地实施,将促使出版商优化内容结构,创建更具上下文完整性的页面以适应AI生成需求。

研究发现,Gemini、GPT等主流模型在检索数据上下文不足时,往往倾向于强行作答而非拒绝回答,从而引发幻觉。为此,研究团队开发了一套评估系统,帮助大型语言模型(LLM)精准判断检索内容是否足以支撑答案生成,从源头降低错误率。

定义“充分上下文”标准

研究将“充分上下文”定义为:检索到的信息包含推导出正确答案所需的所有必要细节。该标准侧重于评估信息是否为回答问题提供了合理基础,而非直接验证答案本身的正确性。反之,若检索信息不完整、具有误导性或缺失关键细节,则被判定为上下文不足。

自动评分器与选择性生成机制

研究团队开发了“充分上下文自动评分器”,用于对查询-上下文对进行分类。测试显示,基于单样本学习的Gemini 1.5 Pro模型表现最佳,准确率达93%。

数据显示,即便上下文不足,RAG模型仍有35%至62%的概率给出正确答案。这表明充分上下文并非绝对必要条件。基于此,研究人员提出了“选择性生成”方法,结合置信度分数与上下文充分性信号,动态决定是生成答案还是放弃回答。该方法通过训练线性模型预测幻觉风险,设定覆盖率与准确率的权衡阈值,既避免了意外下游影响,又允许针对不同应用场景(如医疗合规或创意生成)灵活调整拒答策略。

“我们利用这些信号来训练一个简单的线性模型以预测幻觉,然后使用它来设定覆盖率和准确性之间的权衡阈值。该机制独立于生成过程运行,减轻了意外的下游影响,并提供了一种可控的拒答率调节机制。”

对内容生态与SEO的启示

虽然研究未宣称上下文充分性是唯一的排名因素,但其引入的置信度分数会干预AI的拒答决策。当置信度和充分性均较低时,模型可能选择不作答。这意味着提供完整、结构化信息的网页更有可能被AI采纳,因为这类页面无需额外研究即可支撑答案生成。

上下文不充分的页面通常具有以下特征:

  • 缺乏回答查询所需的足够细节
  • 内容具有误导性或不完整
  • 信息相互矛盾
  • 需要读者具备大量预先知识才能理解
  • 关键信息分散,未统一呈现

这一概念与Google第三方质量评估者指南(QRG)高度契合。QRG明确指出,低质量页面往往因缺乏必要的背景、细节或相关信息而无法实现其目的。例如,标题为“一米有多少厘米?”的页面若充斥无关填充内容,或手工教程中堆砌非核心事实,均被视为未能很好实现页面目的。

尽管该研究尚未全面应用于Gemini或AI概览,但其所强调的高质量内容原则与QRG一脉相承。对于SEO人员及内容发布者而言,内化这些关于上下文完整性与高质量页面的标准,仍是适应AI时代搜索规则的关键。

【声明】内容源于网络
0
0
搜索引擎报
搜索引擎时报
内容 986
粉丝 0
搜索引擎报 搜索引擎时报
总阅读2.7k
粉丝0
内容986