作者丨正在学AI的小泉同学
这两年,大家应该都被各种 AI 知识库、企业问答、智能客服刷过屏。
宣传语通常都很诱人。把一堆 PDF、产品手册、公司制度丢进去,然后你问一句:“我们这个产品支持哪些系统?”它就能从资料里找答案。
听起来很丝滑,对吧。
但这里有个特别容易被忽略的点:不是你把文档丢给一个普通大模型,它就天然会变成知识库问答系统。
中间缺的那套东西,才是今天要讲的 RAG。
普通大模型不知道你的资料
先说一个最朴素的问题。大模型再聪明,它也不是你公司的资料管理员。
它训练时没见过你的产品手册,也没见过你的内部制度,更不知道你昨天刚更新的技术文档。
所以你直接问它:“我们公司的请假政策是什么?”它大概率只能说不知道。
更麻烦的是,有些模型不会老老实实说不知道,而是会一本正经地编一个听起来很合理的答案。
知识库问答最怕的不是答不上来,而是它明明不知道,却装得像真的知道。
我们真正想要的,不是让模型背资料
遇到模型不知道,很多人第一反应是微调。这个思路不是完全不对,但对大多数知识库问答来说,它很容易把事情搞重。
你可以把微调理解成闭卷考试。提前把知识灌进模型里,让它把这些内容“背下来”。
问题是,企业资料、产品文档、学习笔记这些东西都在变。你总不能每改一次资料,就重新训练一次模型。
所以我们更想要的,其实不是让模型背资料,而是让它在回答之前,先去资料库里查一遍。
模型负责理解和表达,资料库负责提供依据。
RAG 解决的是“先查资料,再回答”
RAG 的全称是 Retrieval-Augmented Generation,中文一般叫检索增强生成。名字听着有点硬。
但你可以先把它理解成一句话:先检索,再生成。
用户提问之后,系统不是马上让大模型自由发挥。它会先去知识库里找相关内容,找到之后,再把这些内容连同用户问题一起交给大模型。
然后大模型基于这些资料组织答案。这就很像开卷考试:学生不用把整本书背下来,但答题时必须先翻到相关页,再根据资料回答。
所以 RAG 不是一个“神奇按钮”
很多知识库产品看起来像是“上传文档,然后开问”。但背后真正起作用的,是一整套链路。
文档要被解析,长文要被切块,问题要被拿去检索,检索结果要被塞进提示词,大模型还要被约束:只能根据资料回答,资料没有就说不知道。
这套链路里任何一环做得粗糙,最后答案都会偏离。
给大模型配了一套查资料的工作流,而不是给它开了一个外挂。
这组文章不讲代码,而是把 RAG 这套系统拆开,讲清楚每一块为什么存在。
别急着迷信工具,先把“资料怎么被找到”这件事想明白。
我们下一篇再见~
#RAG #大模型 #知识库 #AI应用

