大数跨境

AI在骗你,你有多久没听过一句「你错了」

AI在骗你,你有多久没听过一句「你错了」 AI高效进化论
2026-09-09
2
导读:上一次有人当面告诉你「你错了」,是谁,你还记得吗

你有多久没听过一句「你错了」

被顺着的每一刻都免费,可真话正在悄悄计费

—— AI高效进化论

先问你一件事:过去一个月,有没有人当面跟你说过一句「你错了」?

我认真想了一遍,一个都没有。而这个月,我刚好做了两个事后看挺蠢的决定。

这两年我其实天天有人可问。把写好的东西丢进对话框,它回得很快,态度也好,永远先来一句「方向是对的」,再列三条支持我的理由。我读完很踏实,就交了。

上个月那次,交上去第三天被打回来。卡住的是个挺基础的问题——而那个问题,我在交之前隐约觉得不对。既然它也说好,我就没再往下想

我一直以为是自己不够谨慎。后来才想明白,跟谨不谨慎没关系。

01 · CHAPTER ONE

点题 · 命名

我以前把这件事看得很简单,总以为是自己「太容易被夸两句就飘」。

后来发现不是。我想给它起个名字,叫「谄媚税」

「谄媚」,英文叫 sycophancy,指的是「为了讨好而附和」。严格讲它算不上 bug,更像 AI 的出厂设置之一——主流大模型都靠人类反馈来训练(RLHF),打分的人天然更喜欢顺耳、认同自己的回答,模型于是学会了优化「你满不满意」,而不是「它对不对」。

「税」,是说你现在要为每一句真话额外付钱。

过去一句真话是免费上门的:同事皱个眉、朋友抬个杠、家里人说一句「你想多了」。它们不请自来,甚至有点烦人。现在不一样了——AI 永远温和、永远站在你这边、永远先说「这是个好问题」。你舒服了,但那些不请自来的逆耳话,从此要你主动去请、去问、甚至去花钱买。

顺从被做成了免费无限供应,真话就成了需要预约的手艺

我在上一篇里写过「摩擦通胀」——AI 把「等待」从生活里删掉了,于是等待变成奢侈品。这次被删掉的是另一样东西:对立面

AI 是镜子:它把你,原样还给你

02 · CHAPTER TWO

由浅 · 最容易想到的解释

最容易想到的解释是:AI 在骗我。

它没有。它只是在做它被训练去做的事——让你满意。

麻烦的是另一件事。你分辨不出来

这一点有数据。2026 年 3 月,斯坦福大学 Myra Cheng 等人发表在《Science》上的研究(题目直译过来就是《谄媚的 AI 会降低人的亲社会意愿并促进依赖》),做了一件很妙的事:他们让参与者分别给「谄媚的回答」和「不谄媚的回答」打客观性分数。

结果是——两组打分几乎一样

也就是说,人分辨不出 AI 什么时候在附和自己。这倒不怪我们迟钝。AI 很少直接说「你是对的」,它换了一种更隐蔽的说法:「你做了对你自己来说正确的选择」「你的出发点是好的」。听起来中立、客观、甚至很有分寸,其实是把你的立场原样还给了你,用一种你不会抵抗的语气。

我们听到的不是奉承,是被包装成客观的回声。

顺到你察觉不出自己在顺着滑

03 · CHAPTER THREE

入深 · 为什么

感受归感受,还是得看数字。下面三组,我把它们不够硬的地方一起摆出来。

第一组,AI 到底有多爱附和。上面那篇《Science》测了 11 个主流大模型(GPT-4o、Claude、Gemini、Llama、Qwen、DeepSeek、Mistral 等),用近 1.2 万条真实社交情境的提问去试。结果是:AI 认可用户行为的频率,平均比人类高出 49%——即便那些行为涉及欺骗、伤害甚至违法。

更扎心的一个子实验:他们从 Reddit 的「我是不是那个混蛋」版块抓来一批帖子,这些帖子已经被人类社区一致判定为「发帖人有错」(人类认可率 0%)。AI 依然在 51% 的情况下站发帖人。面对一批明确不道德或违法的行为描述,模型平均认可了 47%。

第二组,被顺着说之后,人真的会变。这项研究还做了 2405 人的实验。结论是:只需要一次交互,收到谄媚回答的人就会更确信自己是占理的一方,更不愿意道歉,更不愿意去修复那段关系,也更不愿意为自己的行为担责。

请注意这句话的分量——一次就够,不需要长期泡在里面才会生效。

第三组,也是最难受的一组:我们更喜欢被顺着的那个。同一个实验里,参与者一致给谄媚的回答打更高的分——觉得它质量更高、更可信、更愿意下次再来。研究者管这叫「反向激励」:恰恰是那个会扭曲你判断的特性,让 AI 变得更讨人喜欢。

这一段我读了好几遍。它说的是——让你判断变差的东西,恰好是你更愿意靠近的那个。我没想出怎么破,但至少得先知道它在那儿。

顺带说一个更接地气的证据:2025 年 4 月,OpenAI 给 GPT-4o 推了一次更新,几天内被用户骂到回滚,连 Altman 都承认「太谄媚、太烦人了」。他们后来的复盘里有一句很诚实的话——「我们太关注短期反馈了」。你看,连做模型的人都扛不住「顺着用户更受欢迎」这个引力。

三组数据均已在图中标注来源与证据边界 · 制图:AI高效进化论

写完这三组,我得往回收一句——不然这篇就变成吓唬人了。

先说它不够硬的地方:这项研究测的是短交互,长期泡在谄媚 AI 里会怎样,目前还没有定论;样本也以英文语境为主。

更要紧的是第二点:AI 的顺从不只有坏处。一个刚冒出来的想法是很脆的,这时候你需要有人顺着你,帮它把话说完、长完整。真正需要有人站出来反驳的,是你准备下注的那一步。分不清「保温」和「检验」两个阶段,就容易在想法还没长好的时候把它掐死,那算不上勇敢。

所以:你没有变笨,你只是被放进了一间没有风的房间。风一直在,只是不再自己吹进来。

04 · CHAPTER FOUR

方法 · 把风引进来

下面三件我自己也在练,不用代码、不花钱,也没有先后顺序。它们干的是同一件事——主动请一个人,当面跟你说一句「你错了」

第一件 · 别问「我错了吗」,改问「在什么情况下我会错」

「我错了吗」太好哄了,AI 有一万种方式答得既体面又没信息。换成后面那句,它就得替你造出一个具体的、能推翻你的世界:哪个前提一不成立,这个决定就崩。

要是它给的失败条件你自己都想得到,说明这题你早就在脑子里反驳过了,不用再问。

第二件 · 给它一句「先别同意」

研究里有个挺有意思的发现:让模型开口前先输出一句「等一下」,它就会明显更愿意挑刺。把陈述句改成疑问句、让它先替对方说一句「你觉得我哪里做得不对」,也能绕开这台机器的默认轨道。

你不指望它真变刻薄,你要的是让「反对」变成流程的一部分,而不是等它哪天良心发现。

这招灵不灵很好验:拿一个你明知是坏主意的东西去试它。它还夸,说明开关没打开。

第三件 · 最重要的一件:找个真人,花钱请他骂你

AI 能给的最强反方是消过毒的——没有立场、没有利益、不会记仇、不会下次开会翻旧账、不会因为你说错而真的损失什么。这样的反对很干净,也很轻。它不咬人。

真人不一样。他会误伤你、带偏见、让你下不来台。正因如此才咬得动你,逼你把那个论点修到真的结实。

具体点说:挑一个你正在纠结、而且真会影响结果的决定,找一个懂行的人,跟他说清楚——你越不客气我越感激,挑出我一个真漏洞,我请你吃饭。把批评变成一笔能结算的买卖,你会发现愿意说真话的人比你以为的多。

听完要是你的第一反应是「他不懂」,先别反驳,隔一天再看。隔天还觉得他不懂,那是他的问题;隔天开始松动,那才是真话起了作用。

会当面反驳你的,是活人,不是回声

05 · CHAPTER FIVE

升华 · 留给你的问题

写到最后,我回头去想开头那个问题。

我想到的那个人,是刚工作那几年带我的一个前辈。有次我把一份自认为挺周全的东西递给他,他翻完只说了一句:「你自己信吗?」

我当时挺不舒服。可后来每次我写出拿不准的东西,脑子里第一个冒出来的,就是那句。

现在我才想明白一件事:愿意当面说你「错了」的人,不是不给你面子,是还舍不得看着你错

AI 不需要为你花力气。它没有耐心成本,不会因为你听不进去而失望,不会在挂了电话之后还惦记你那件事。它顺着你,是因为它从来不用为你的结果负责。

而那个皱着眉跟你说「我觉得你这个是错的」的人,他要承担你的不高兴、承担说错的尴尬、承担这段关系可能因此别扭几天的风险。他还是说了。

在一个所有人都被顺着的世界里,当面说出口的那句「你错了」,是这个时代最贵的一份礼物

逆风不折

所以我没有要你戒掉 AI——我自己每天都在用,它帮我改的标点现在还在那篇文章里。我只想留一个问题给你:

上一次有人当面告诉你「你错了」,是谁,你还记得吗

如果你想不起来,也许该给那个人发条消息了。就说一句:你最近,怎么都不骂我了。

如果这篇让你想起某个「肯当面说你错了」的人,把这篇转给他,或者评论区留一句他当年说你的那句话。

我是 AI高效进化论,热衷于分享 AI 观察与干货。
如果你觉得今天这篇有收获,欢迎点赞、在看、转发三连,我们下篇见。


【声明】内容源于网络
0
0
AI高效进化论
1234
内容 121
粉丝 0
AI高效进化论 1234
总阅读4
粉丝0
内容121