

Google:原型到产品

求数科技

2025-12-12

导读：你可以在几分钟甚至几秒钟内启动一个 AI 智能体原型。但要把这个巧妙的演示转化为业务可依赖的可信、生产级系统？

你可以在几分钟甚至几秒钟内启动一个 AI 智能体原型。但要把这个巧妙的演示转化为业务可依赖的可信、生产级系统？真正的挑战才刚刚开始。欢迎来到“最后一公里”的生产落地鸿沟——我们在与客户的实际实践中持续观察到，约 80% 的精力并非用于智能体的核心智能，而是花在让系统可靠与安全所需的基础设施、安全性与验证工作上。跳过这些收尾步骤可能引发诸多问题，例如： •客服智能体因未设置恰当的安全护栏而被诱导免费赠送产品。•用户发现可通过智能体访问机密内部数据库，原因是身份认证配置不当。•智能体在周末产生巨额调用费用，却无人知晓缘由，因为你没有部署任何监控。•昨天运行良好的关键智能体突然失效，而团队因缺乏持续评估而手忙脚乱。这些不仅仅是技术问题，更是重大的业务失败。尽管 DevOps 与 MLOps 的原则提供了重要基础，但仅凭它们并不足够。部署 Agentic AI 系统引入了一类全新挑战，需要在运营方法上实现演进。与传统机器学习模型不同，智能体具备自主交互能力、有状态性，并遵循动态执行路径。这带来了独特的运营难题，需要专门策略应对：

•动态工具编排：智能体的“轨迹”是在运行时动态组装而成，它会自主选择工具。这要求针对每次行为都不同的系统，建立稳健的版本管理、访问控制与可观测性。

•可扩展的状态管理：智能体可在多次交互间保持记忆。在大规模场景下安全且一致地管理会话与记忆，是复杂的系统设计问题。

•不可预测的成本与延迟：智能体可能通过多种路径寻找答案，使其成本与响应时间极难预测与控制，除非引入智能预算与缓存机制。要成功应对这些挑战，需建立在三大支柱之上：自动化评估、自动化部署（CI/CD）与全面可观测性。本白皮书是你逐步搭建这一基础并穿越生产落地之路的行动手册！我们将从投产前的关键准备讲起，展示如何搭建自动化 CI/CD 流水线，并将严格评估作为关键质量关卡。随后深入智能体在真实环境中运行的挑战，涵盖扩展、性能调优与实时监控策略。最后，我们将展望多智能体系统的广阔前景，借助 Agent-to-Agent 协议，探讨实现安全高效通信所需的要素。

在讨论了 CI/CD、可观测性与动态流水线之后，为何还要聚焦人员与流程？因为即便拥有全球最顶尖的技术，若没有合适的团队来构建、管理与治理，它也无法发挥作用。客服智能体不会凭空避免免费赠送产品的风险——是 AI 工程师与提示工程师设计并落实了安全护栏。机密数据库的安全也不是抽象概念带来的——云平台团队负责配置身份认证。每一个成功的、生产级智能体背后，都有一支由各领域专家精心协作的团队。本节将介绍其中的关键角色。

•云平台团队：由云架构师、管理员和安全专家组成，负责管理底层云基础设施、安全性与访问控制。该团队为工程师与服务账号授予最小权限角色，确保仅能访问必要资源。

•数据工程团队：数据工程师与数据负责人构建并维护数据管道，负责数据采集、预处理与质量标准保障。