大数跨境

AI 是怎么学会一本正经“撒谎”的?

AI 是怎么学会一本正经“撒谎”的? 弈棋 AI工作流
2026-03-22
1
导读:“又编了?又编了!我都说了请给我真实数据了,你能不能不要这样?”

前两个月,我半夜刷短视频,刷到李亚鹏带货八珍糕的切片。

大半夜嘴馋得不行,就随手让一个大模型 (某问) 给推荐几款口碑好的。

它兴冲冲地给我列了5个品牌,还附带了个表格,对比每个品牌的优劣,以及推荐理由。

我咽着口水去电商平台一个一个搜:

2 个品牌,根本不存在。

剩下的 3 个里,有 2 家压根就不卖这个产品。

当时我就气笑了。

看到这,你的第一反应是不是:这模型太笨了。

但静下心回想一下——哪怕换成市面上最顶级、最贵的模型,它也经常会一本正经地胡说八道。

这说明了一件事: “问题根本不在模型上。

答案不是 AI 不够聪明,也不是你用的姿势不对。而是一个更底层的东西,这是它出生第一天,就埋进去的规则。

搞懂了这个规则,你才能真正治住它。


认清物种差异:它不是在撒谎,只是不敢说不知道

人在崩溃的时候,大概都对 AI 说过这种话:

 !important

“又编了?又编了!我都说了请给我真实数据了,你能不能不要这样?”

 !important

然后关掉对话框,默默决定:涉及真实数据的事还是自己查,AI 不可信。

这情绪我太懂了。

先来想一个问题: 你上次让AI翻车的那个任务,你给它资料了吗?还是直接问它“帮我查一下”?

如果是后者,你刚刚找到了问题的源头——你默认把它当成百度在用。

但这并不是你的错,因为没有人告诉过你:

 !important

搜索引擎和生成式 AI,是两种完全不同的物种,但我们一直用同一种方式对待它们。

 !important

搜索引擎的底层规则是求真。

有就给,没有就说无结果。它宁可让你失望,也不会给你一个打不开的空网址。

生成式 AI 的底层规则是求流畅。

对话不能断,空白不能留。它的最高指令不是说真话,而是把话接下去。

这不是它的缺陷,是它被训练的方式。

所以——

它没学会撒谎,甚至不知道自己在撒谎。它只是在忠实执行一条铁律:接话,不许停。

它没有拒绝和沉默的权力。


「信息真空」:幻觉真正的开关

你知道即兴喜剧演员的第一条规则是什么吗?

Yes, And……”,舞台上永远不能说“不”。

搭档递来任何东西,你必须接住,然后把戏演下去。没有剧本不是问题,说“我不知道”才是最大的罪。

生成式 AI 就是这样被训练出来的。

当你给它一个任务,它面前同时出现了两种可能:

一种是它的知识库里,刚好有足够的真实信息可以调用;

一种是它面前出现了一片空白——那个任务所需要的信息,根本不在它能伸手够到的地方。

遇到第一种,它是个完美称职的助理。

遇到第二种,它没有能力说“我不知道” (它没学过这个)

所以它做了一件也是唯一会做的事:扫一眼见过的所有类似情况,挑一个最像真的,填进去。

然后用最平静的语气,告诉你一个它自己都不知道是假的答案。这在 AI 行业里,被称为「幻觉」 (Hallucination)

这就是幻觉的完整机制:信息真空 × 求流畅本能 = 幻觉

因为接话茬、求流畅是它的生存本能,所以这个公式里真正的关键,是「信息真空」。

只要任务里有真空地带 (没给资料、让它凭记忆回答、只看搜索摘要),它就会启动本能,用想象力填满它。

这一点上,你换再好的模型都没有用。因为求流畅不是某个模型的 bug,而是所有生成式 AI 的底层规则。

你要做的不是找个更诚实的 AI,而是: “把真空堵死。

空白消失了,想象力就无处落脚。


三道防线:不给它发挥的余地

既然要堵死真空,得先知道它藏在哪。在你给 AI 布置任务的时候,一般会有 3 个真空地带:

  1. 事前 (输入端):丢给它一个光秃秃的指令,面前没资料,只能凭记忆瞎编;或者只看了网页标题,根本没点进正文。
  2. 事中 (处理端):虽然给了资料,但它在写结论时依然有自由发挥的空间,顺手就把财报里的 8% 改成了 18%。
  3. 事后 (输出端):这颗叫 18% 的地雷,被天衣无缝地埋在几千字里,肉眼根本查不出来。

对付这三个漏洞,别指望 AI 能自觉,得用死规则逼它就范。

这里直接给出两套 Prompt 模板,对应阅读资料和联网搜索两种场景。每个模板里的 3 个指令,分别去堵它的 3 个真空地带。

模板一:投喂模式

(手头有现成文件或资料时使用)

 !important

请阅读我上传的材料,回答:[你的问题]
① 基于且仅基于我提供的材料回答,原文没有的直接说“材料中未提及”,不要脑补。
② 请分两步:Step 1 先摘录材料中与问题直接相关的原文;Step 2 基于摘录写回答。
③ 最后附一份数据核查表:列出文中每个数据及其对应的来源页码/段落。

 !important

如果它手里没现成资料,需要自己去全网找,那就换个场景:

模板二:联网模式

(让它自己去全网搜集时使用)

 !important

请联网搜索:[关键词]
① 必须点进网页深度阅读正文,严禁只看搜索摘要。
② 关键数据必须对比至少两个来源。来源有矛盾的直接展示给我,不要自己取平均。
③ 所有链接在列出前先自己回测,打不开的直接略过。

 !important

加不加这两段防线,反差非常大 (以让 AI 写瑞幸财报增长分析为例)

不加防线时,它会给你一份激情澎湃的报告,里面混着它推算出来的门店数和根本不存在的新品。发给老板一查原文,直接翻车。

加了防线后,它必须先老老实实把数据抄一遍。最终给你的分析,每句话后面都跟着来源页码。

这一次交稿时,你手里握着的是证据,不是运气。


驯兽师:左手防线,右手放风

把这两套模板存起来,每次涉及精确数据的任务就套上,这是一次性投入。

你定规则,AI 干活。走到这一步,你才真正变成了「AI工作流设计师」。

但最后提个醒:别用力过猛,把 AI 最值钱的东西也杀了。

它的底层规则是求流畅,遇到空白就填。

需要精确数据时,这是你的敌人
但做选题发散、找创意时,这恰恰是你最好的帮手。

你可以把防线撤掉,主动制造真空,告诉它:

 !important

“给我想 5 个违反常识的营销概念,越离谱越好,别管能不能落地。”

 !important

它给的答案 99% 是废话,但唯独那 1%,就是你自己思维打不开的那扇窗。

拿到这 1% 后,你再重新拉起防线,用证据去锚定它。

知道什么时候关笼子,什么时候放它去撒野,才是真正的判断力。

AI 负责求流畅,你负责做判断。


不过,还有一种情况,三道防线也防不住。

不是真空没堵死,而是有人提前替 AI 把真空填好了——填的,是他们想让你看到的“事实”。

业内最近流行一个新词:「GEO」

简单来说,就是有人专门给大模型做内容优化。类似SEO影响搜索排名,现在有人针对AI做定向优化。

这意味着,即使你的防线全开,你拿到的真实信息,也可能是被精心设计过的结果。

这是一个更深的坑,需要单独讲。以后见。


【声明】内容源于网络
0
0
弈棋 AI工作流
弈棋 | AI工作流设计师。 畅销书《卖爆》作者,8年文案实战。 专注帮助SMB企业和专业人士,用AI重构工作流,效率提升10倍。 既讲理论,也教落地的Prompt工程与工作流思维。
内容 15
粉丝 0
弈棋 AI工作流 弈棋 | AI工作流设计师。 畅销书《卖爆》作者,8年文案实战。 专注帮助SMB企业和专业人士,用AI重构工作流,效率提升10倍。 既讲理论,也教落地的Prompt工程与工作流思维。
总阅读17
粉丝0
内容15