随着AI智能体在生产环境中落地,其动态决策和复杂调用导致了延迟、成本及数据隐患等运维难题。文章指出,多智能体系统亟需建立运行层面的可观测性。
译自:Who's monitoring the agents?[1]
作者:Moshe Bar
在过去的几个月里,一些变化在悄然发生。像 CrewAI、AutoGen 和 LangGraph 这样的框架不再仅仅出现在演示(demo)中——它们已经在生产环境中运行。
团队正在将规划器、使用工具的智能体、检索器和外部 API 连接在一起,然后将真实的工作交托给它们。事件响应、内部副驾驶(copilots)、自动化管道——这一切开始变得越来越不像实验,而更像基础设施。
一旦这些系统上线,问题就会迅速显现。这不是常见的“大语言模型(LLM)幻觉”问题,而是更偏向运维层面的问题。
目前,我们非常擅长构建智能体,但并不擅长运维它们。这些框架让组合变得很容易,但一旦系统大规模运行[2],它们就无法为你提供真正的控制力。
这种差距在生产环境中会立刻暴露出来。
令人尴尬的现实是,今天许多部署多智能体系统[3]的团队在运行这些系统时,其可见性甚至不如 10 年前的微服务。他们信任输出结果,却并不完全了解产生这些结果的路径。
这在演示中行得通,但在这些系统开始接触真实数据、真实用户和真金白银时,就无法立足了。
真正崩溃的其实是系统本身。一个本应需要一两个步骤的请求,变成了几十个模型调用。智能体之间相互推诿、重试、改写、循环,勉强维持运行,但毫无效率。延迟悄然增加,成本紧随其后。没有任何东西崩溃,所以没有任何警报触发。你只是觉得事情开始变得……不对劲。
“一个本应需要一两个步骤的请求,变成了几十个模型调用。没有任何东西崩溃,所以没有任何警报触发。你只是觉得事情开始变得……不对劲。”
或者更糟糕的是,一切看起来都在正常运转,但答案却有微妙的错误。一个智能体超时了,另一个进行补偿,第三个用部分上下文来填补空白。当你看到输出时,失败已经深埋在决策链的某个角落,你很难轻易重构。
还有数据问题。不是单一明显的泄漏,而是渐进式的传播。一个智能体读取了敏感信息,另一个对其进行总结,第三个将其包含在发给外部模型的提示词中。在这个过程中,没有任何一步看起来显性危险,但整个系统却跨越了不该跨越的边界。
这里的共同点是,没有人真正了解到底发生了什么。
大多数团队尝试套用他们现有的工具。日志、追踪,也许还有一些提示词捕获。这在边缘地带有所帮助,但无法回答核心问题:系统究竟是如何得出这个结果的?
智能体系统不仅仅是拥有更多 API 调用的分布式系统。它们的行为更像是不断演变的执行图,其中决策是动态做出的,路径会根据中间结果而改变。监控单个调用就像是看着一个单一的堆栈帧,并试图以此推断整个程序。
“智能体系统不仅仅是拥有更多 API 调用的分布式系统。它们的行为更像是不断演变的执行图。”
我们所缺失的是可见性[4],尤其是在这些系统实际运行的层面上。
你需要看到一个请求是如何在各个智能体之间展开的、推理链有多深、在何处分支以及在何处循环往复。你不仅需要知道消耗了多少 token,还要明白为什么 token 会在各个步骤中不断增加。你还需要追踪数据的流动——不仅要看它从哪里开始,还要看它如何被转换,以及最终流向了哪里。
失去这些,你只能在症状出现时进行被动调试。比如这里响应变慢、那里账单变多、或者偶尔出现错误答案。而底层行为依然是个黑盒。
特别有趣的是,这些系统随着时间的推移确实会形成特定的模式。尽管它们不是确定性的,但也不是随机的。某些流程会变得很常见,某些推理深度会变得很典型。这种基线极其有用,因为真正的信号来自于系统偏离基线的时刻。当一个智能体突然走了一条它从未走过的路径,或者开始访问它通常不会访问的数据,或者将推理链扩展到远超平常的范围。
这才是监控应该发挥作用的地方——不在于静态规则,而在于对系统正常行为的深入理解,从而能辨识出其何时发生偏移。
问题不在于智能体是否需要监控,而在于我们是否愿意像对待它们已经演变成的系统那样,去严谨地对待它们。
眼下,大多数人还没有做到这一点,而这需要被改变。
引用链接
[1] Who's monitoring the agents?: https://thenewstack.io/who-monitors-ai-agents/[2] 系统大规模运行: https://thenewstack.io/what-it-takes-to-scale-ai-agents-in-production/[3] 多智能体系统: https://thenewstack.io/operations-shift-assistants-to-autonomous-multiagent-systems/[4] 我们所缺失的是可见性: https://thenewstack.io/jaeger-v2-ai-observability/

