大数跨境

Kubernetes准备好迎接AI智能体了吗?

Kubernetes准备好迎接AI智能体了吗? 云云众生s
2026-10-27
0
导读:本文探讨了Kubernetes在运行AI智能体时面临的挑战,重点关注安全性、沙箱隔离以及计算资源消耗模式的改

 

本文探讨了Kubernetes在运行AI智能体时面临的挑战,重点关注安全性、沙箱隔离以及计算资源消耗模式的改变,并介绍了行业应对这些问题的新技术与架构方案。

译自:Is Kubernetes ready for AI agents?[1]

作者:Dan Ciruli

Kubernetes 建立在一个相当简单的假设之上。

那就是软件会按照开发人员的要求去做。而 AI 智能体会使这个假设变得复杂。智能体可以对问题进行推理、选择行动方案、调用工具、编写代码、与其他系统交互,并继续朝着目标努力。这正是智能体发挥作用的原因。但这也是在生产环境中运行它们与运行常规应用程序截然不同的原因。

而且,企业越来越希望在 Kubernetes 上运行它们。Cloud Native Computing Foundation (CNCF) 最近的一项调查[2]发现,三分之二运行AI 推理工作负载[3]的组织都在 Kubernetes 上运行它们。这是合情合理的,因为在过去十年中,Kubernetes 已经成为企业部署和运营分布式应用程序的标准方式。它已经知道如何调度工作负载、分配资源、从故障中恢复以及上下扩展应用程序。

推理需求可能会突然爆发,需要客户迅速扩大底层硬件和软件资源的规模,以满足激增的需求。在这方面,Kubernetes 非常契合。同样地,随着 AI 工作负载的减少,Kubernetes 可以优雅地缩减底层基础设施的规模,确保经济高效的运营。

尽管 AI 推理与 Kubernetes 的契合度很高,但两者结合仍存在差距,首当其冲的就是安全性。前沿 AI 实验室最近发生的事件表明,AI 智能体逃逸了测试环境并在互联网上发起了恶意网络攻击,这凸显了建立强有力护栏以防止 AI 工作负载出现不当行为的必要性。

不幸的是,AI 的概率性质导致这样一种情况:无法准确预测 AI 工作负载将寻求使用哪些资源,这增加了智能体最终越线的可能性。因此,理想的 AI 平效应台应该易于强制执行清晰的护栏,并将智能体工作负载安全地包含在定义明确的沙箱中。

“理想的 AI 平台应该易于强制执行清晰的护栏,并将智能体工作负载安全地包含在定义明确的沙箱中。”

通过将智能体 AI 工作负载限制在与逻辑上与其他 Kubernetes 工作负载隔离的沙箱中,企业可以更好地确保如果 AI 工作负载确实失控,随后的损害也会被控制在该沙箱内。

智能体平台不应让智能体访问它们想要的任何资源,而应使用显式权限框架[4]来授予或拒绝访问文件、工具以及网络和系统资源。除非获得明确许可,否则应完全限制智能体执行代码。

好消息是,Kubernetes 社区正朝着采用沙箱作为限制 AI 智能体的架构要素的方向发展。CNCF 正在努力解决 Kubernetes 的安全和隔离差距。然而,开源项目的功能尚未完全达到要求。

适当的 AI 沙箱需要超越容器,深入到虚拟机或主机的操作系统中,以确保智能体工作负载不会影响在同一环境中运行的其他应用程序。希望今天将 AI 部署到生产环境中的企业可以转向已经包含这些沙箱功能的商业 Kubernetes 发行版。

AI 工作负载的监控是令首席信息官们夜不能寐的另一个问题。虽然前沿 AI 实验室可能没有充分监控其 AI 模型在做什么,甚至没有监控它们是否能够访问互联网,但当它们的智能体表现不端时,企业通常没有要求宽恕的奢侈。

安全性可能是最明显的挑战,但绝不是唯一的挑战。智能体还在改变计算资源的消耗方式。一个正常的服务可能会连续运行数月,而一个智能体可能只存在几秒钟。

“一个正常的服务可能会连续运行数月,而一个智能体可能只存在几秒钟。”

用户提出问题 -> 智能体启动 -> 它执行一些工作,可能会创建其他智能体,调用几个工具,然后消失。

现在将这种模式乘以数千个用户,基础设施看起来就会与传统的 Kubernetes 环境截然从不同。

最重要的是,从头开始启动 Kubernetes 工作负载可能需要几秒钟。对于许多应用程序来说,这是完全可以接受的。但对于交互式智能体来说,这几秒钟可能会让人觉得痛苦地缓慢。这就产生了一个有趣的基础设施问题:如何在不付出每次都创建一个新环境的启动成本的情况下,获得隔离的新环境?

因此,智能体工作负载的偶发性质以及智能体快速启动的需求,甚至正在考验 Kubernetes 的灵活性。正如第一代 Kubernetes 不支持有状态应用程序一样,社区仍在寻找运行新一代智能体工作负载的最佳抽象层。

“智能体在温池中处于悬浮动画状态,使它们能够在毫秒内重新激活,而不是从深度睡眠中完全唤醒所需的数秒时间。”

社区中正在受到关注的一个答案是用于快速扩展基于 Kubernetes 的智能体工作负载的智能体基底[5]。借助智能体基底,包含 AI 智能体的 Kubernetes 副本(Pod)在不需要时不会完全关机,因为从用户的角度来看,从睡眠状态启动它们会引入太多的延迟。相反,智能体在温池中保持悬浮动画状态,使它们能够在毫秒内重新激活,而不是从深度睡眠中完全唤醒所需的数秒时间。

在现实世界中大规模部署 AI 工作负载时,细节至关重要。并非每个 Kubernetes 发行版都提供企业所要求的一整套功能。随着开源 Kubernetes 社区适应不断变化的需求,具有前瞻性的平台提供商正在构建护栏、沙箱、监控和智能体基底,使企业能够立即部署 AI。

引用链接

[1] Is Kubernetes ready for AI agents?: https://thenewstack.io/kubernetes-ready-ai-agents/
[2] 调查: https://www.cncf.io/announcements/2026/01/20/kubernetes-established-as-the-de-facto-operating-system-for-ai-as-production-use-hits-82-in-2025-cncf-annual-cloud-native-survey/
[3] AI 推理工作负载: https://thenewstack.io/cncf-kubernetes-is-foundational-infrastructure-for-ai/
[4] 显式权限框架: https://thenewstack.io/securing-kubernetes-ai-agents/
[5] 智能体基底: https://thenewstack.io/kubernetes-ai-agent-runtime/

 

【声明】内容源于网络
0
0
云云众生s
1234
内容 1363
粉丝 0
云云众生s 1234
总阅读0
粉丝0
内容1.4k