SaaS公司做AI智能体：模型到底怎么才能在企业里靠得住？

SaaS公司做AI智能体的，现在越来越多了。可很多人没想清楚一件事，模型到底怎么才能在企业里靠得住。

Salesforce的CTO，在今年九月的Dreamforce大会上，讲了件自家的事。挺值得听。

第一代Agentforce的教训

他讲的是第一代Agentforce。

这产品刚出来，Salesforce想得挺简单，把所有规则写进一个大prompt，一股脑丢给模型。

规则少的时候，还行。规则一多，就出事。

他们自己实测，超过8条指令，模型就开始偷懒，丢指令。该先查的没查，该验的跳过验。对用智能体面试候选人、处理患者数据的客户来说，这种事没法忍。

Salesforce不是小公司，它是带着几十亿的生意去趟这个坑的。它都翻了车，说明这不是哪家执行不到位，是这个思路本身就走不通。

Prompt只能哄着模型，管不住它

你想想，prompt是什么？就是一段文字。在模型眼里，你说的那些指令不是法律，是普通文本。它状态好就照做，规则一多就顾不过来。

最强的模型也一样。你塞500条指令进去，最好的也只跟得住六成多。

所以核心就一句：prompt只能哄着模型，管不住它。

很多SaaS公司现在做智能体，第一步就是这。把业务规则写成一大段提示词，丢给模型，指望它懂事。

演示和生产，差的不是一点

为什么大家都这么干？因为最快。一个下午就能跑出个demo。领导看着不错，就批了生产。

可演示和生产，差的不是一点。

演示的时候，问的都是那几句典型问题。模型答得漂亮，客户点头。一上生产，用户问的是各种边边角角。该检查的没检查，该先做的没先做。规则说丢就丢，连个日志都查不到。

这不是个别团队的失误。是几乎所有团队踩的第一步。

Salesforce后来怎么修的？

那Salesforce后来怎么修的？

它把"必须做对"的事，从prompt里搬了出来，用代码写死。就像数据库的触发器，规则自己跑，应用绕不过去。

查预约、验资格、控权限，这些全在智能体开跑之前，先用代码做一遍。模型只留一件事，在准备好的上下文上做推理。

确定性归代码，推理归模型。

这里有个反常识的点：可靠不靠更聪明的模型，靠让模型少干。模型只做它最擅长的那点推理，其余全用代码兜住，规则才是规则。

顺带一个数字。同样一个保险咨询，老设计烧了十二万多token，加了上下文引擎之后，只要九千。不是模型变聪明了，是它只拿到真正用得上的信息。上下文这件事，价值是少给、给对，不是越多越好。

如何避免重蹈覆辙？

很多SaaS公司还在反着来。规则越堆越长，盼着模型变强。这不叫迭代，是把坑越挖越深。

怎么判断自己有没有在犯？看你的智能体上线之后，是不是靠不停加规则在维持。如果是，你多半还停在那条老路上。

真正该建的，不是更长的prompt，是模型外面那层确定性的东西。用代码锁规则，把散落的数据整理成统一的界面，控制哪些上下文进模型，再给智能体独立的权限，不和用户那套混在一起。

模型会越来越便宜，越来越像商品。真正值钱的，是让它在生产里靠得住的那套管道。谁先把这层建起来，谁就不用再进同一个坑，摔第二次。

模型是买来的，上下文是自己构建出来的。谁能把这层上下文攒成独有的，谁就真正站稳了。