大数跨境

模型只是最小因素:把 AI 智能体推入生产环境的四条经验

模型只是最小因素:把 AI 智能体推入生产环境的四条经验 Ai时代前沿
2026-11-13
1
导读:当大多数企业智能体未能走进生产环境时,模型往往很少是主要原因。决定成败的,是围绕模型搭建起来的一切。

当大多数企业智能体未能走进生产环境时,模型往往很少是主要原因。决定成败的,是围绕模型搭建起来的一切。

问几乎所有企业是否在引入或者计划引入自主智能体AI答案都是肯定的。但若问有多少智能体正在真实业务流程中无人值守地工作,场面就会安静下来。德勤《2026 技术趋势》(Tech Trends 2026)发现,38% 的组织在试点智能体,但只有约 11% 将其投入生产。Gartner 预计,到 2027 年底,超过 40% 的自主智能体AI项目会被取消,理由是成本攀升、业务价值不清晰、风险控制不足。

试点卡住时,本能反应是归咎于模型,然后等下一个版本发布。但以企业客户(其中国以金融服务和其他受监管行业为主)运行的智能体工作流里,模型很少是原因。真正失效的是围绕它的一切:运行它的运行框架( harness)、它缺失的业务语境、工作的分工方式,以及它必须遵守的规则。以下是来自生产环境的四条经验,每条都附一条可落地的实战建议。

1. 该被审视的是harness,不是模型

多数智能体评估都是模型的比拼:一个前沿模型对另一个前沿模型,比的是与你流程关系不大的基准分数。但智能体不是模型。它是在 harness 里的模型——这层软件给它工具、喂它数据、约束它的权限、校验它的产出。harness 的重要性超出多数团队的预期。一个更小、更旧的模型,只要配上好的工具和自我核验结果的手段,就屡屡胜过跑在单薄 harness 上的更新一代前沿模型。给一个普通员工一台速度快、装备齐全的笔记本,给一个天才一台没有界面的慢速黑白终端,输的是天才。一个先提取发票总额、再对照明细行和采购订单复核后才过账的智能体,会胜过一个更聪明但直接靠第一次猜测过账的智能体。

实战经验:把评估精力花在 harness 上。给智能体专门定制的工具,而不是裸访问权限;对每一个有后果的产出都加一道校验步骤:重算一次、与记录系统交叉核对,或引入第二校验方。每个智能体以自己的身份运行,使用短时效凭证,置于工具网关之后,由网关按工具、按动作强制执行权限范围。一条有用的规则:智能体能做的事应当少于它所辅助的那个人,绝不多于。

2. 业务语境交给人工监管

模型懂语言,但不懂你的公司。它不知道在这个流程里哪些客户算"活跃",哪个地区适用哪档审批阈值,也不知道那条没写下来的规矩——某类文件一律送资深审核人。多数流程里,顺路径是有文档的,异常路径没有;而大部分判断、大部分成本,恰恰落在异常上。

团队常想靠往提示词里塞越来越长的指令来解决。这能撑到规则改变那天——之后没人负责这段提示词,两个智能体开始各自漂移。

实战经验:把业务语境当作有版本管理的交付物,而不是提示词文本。把术语表、明确的决策规则和异常目录放进版本控制,运行时检索,并由流程负责人像审阅其他任何变更一样审阅。从真实工单和案件历史中挖掘异常,先量出它们占多少比例,再决定给智能体多大自主权。

3. 按组织的方式分工

默认设计是一个大模型包办一切:读扫描件、分类、调 API、写回复。演示里能跑。生产里又贵、又慢、又难排查。对我们更有效的做法是:一个能力较强的模型担任编排器(orchestrator),负责任务规划和结果校验;更小的专用模型处理 OCR、字段抽取、分类这类窄任务;完全不需要模型的地方,用纯确定性代码。结果是更便宜、更快、更准,而且每个组件都能单独测试、单独替换。有趣的是,这个模式正是企业本来的工作方式:经理协调、专家执行、常规事务走流程。

实战经验:把流程拆成步骤,给每一步配上能达标的最简组件——无论是代码、专用模型还是编排器。每个组件单独评估,大模型只留给规划、判断和校验。

4. 上线之后规则还会变

智能体正在部署,AI 监管也正在被写出来。不止一次,当我们刚上线一个智能体,新的合规要求就来了,逼着对它做根本性改造。欧盟《人工智能法案》(EU AI Act)是最清楚的例子:对高风险系统,它要求有效的人工监督,包括能通过"停止"按钮或类似程序中断系统,并要求事件自动记录,使系统运行可追溯。连时间表都在动:欧盟 2026 年的数字综合法案(Digital Omnibus)把信用评分等高风险用例的主要义务从 2026 年 8 月推迟到 2027 年 12 月。把监督和日志当作后期附加项来做的团队,最后面对的是重写。

实战经验:为还没写出来的规则做设计。从第一天起,就把经过测试的终止开关、人在回路中的审批和可回放的追踪记录设计进架构:每次运行都应记录输入、数据与语境版本、每一次工具调用及其结果。把策略做成配置,比如哪些动作需要审批、在什么阈值之上需要,这样一条新规则就变成改设置,而不是重建。分阶段扩大自主权:从影子模式,到人工审批,再到带抽检的自主运行。

这四条经验没有一条取决于你选哪个模型。模型能力每隔几个月就会免费提升一次。而harness、语境、分工和管控,只有在组织决定投入时才会改善——正是这些,把那一小批真正把智能体跑进生产的企业,与其他所有企业区分开来。

在把智能体放到真实业务流程面前之前,先过一遍下面这份清单。如果多数问题你答不上"是",换个更好的模型也救不了这个项目,把地基打好才行。

【声明】内容源于网络
0
0
Ai时代前沿
最新Ai发展动态,新闻、热门应用、未来前瞻。 助力科技企业先进技术商用落地; 协助传统企业数字化转型和智能加速。
内容 102
粉丝 0
Ai时代前沿 最新Ai发展动态,新闻、热门应用、未来前瞻。 助力科技企业先进技术商用落地; 协助传统企业数字化转型和智能加速。
总阅读2.5k
粉丝0
内容102