文章指出AI生成代码带来的非确定性与安全风险,正迫使企业重新思考平台架构。面对海量的漏洞与瞬息万变的威胁,传统的补丁机制已失效,企业亟需引入AI-BOM(AI物料清单)与运行时防护(Runtime Shields)等机制,以实现更安全、更敏捷的平台工程实践。
译自:AI-generated software is forcing yet another platform rethink[1]
作者:Jennifer Riggins
“如果你的团队正在积极使用 AI 来编写和审查代码,请举手。现在,如果你觉得你们现有的安全系统足以应对这一情况,请继续保持举手。”
这是今年夏天在 PlatformCon London[2] 上举行的一场关于安全的专题讨论会开场时的提问。面对这个问题,在场的数百名平台工程师和工程领导者几乎都举手表示在使用 AI 编写代码。然而,当被问及是否对现有的能够应对 AI 编写代码的安全系统感到放心时,除了两个人之外,其余所有人都放下了手。
这种反差引出了一个问题:如果我们无法在保证安全的前提下以 AI 的速度前进,我们还有必要走那么快吗?
Isovalent[3] 首席开源官、该安全专题讨论小组成员 Liz Rice[4] 上个月告诉 The New Stack:“威胁环境确实发生了很大变化,因为寻找漏洞几乎成了浪费时间的工作。我们在 AI 世界中所做的是非确定性的,因此围绕系统能做什么来设置防护栏变得越来越重要,因为我们无法预测模型接下来会做什么。”
“我们在 AI 世界中所做的是非确定性的,因此围绕系统能做什么来设置防护栏变得越来越重要,因为我们无法预测模型接下来会做什么。”
扩大这一风险因素的原因是,与几年前相比,公司中能够编写可能带来安全风险代码的人员多了很多。那么,公司里的每个人都应该被纳入你们的 内部开发者平台[5] 吗?
AI-BOM:潜伏在你办公室茶水间的威胁
影子 AI 是影子 IT 的“丑陋表亲”,带来了更多的风险。但它也正在推动组织真正审视其跨公司的 IT 采用情况,并考虑他们真正需要什么,不需要什么。因为我们知道,更多的工具和更多的代码行数,除了增加复杂性之外,说明不了任何问题。
“AI 将彻底改变我们对从开发者、平台工程一直到硬件的全栈技术的思考方式,因为不再存在所谓的‘零日漏洞’了,” Broadcom 的 EMEA 首席技术官、小组成员 Joe Baguley[6] 在讨论中说道。“我认为最大的担忧实际上是我们如何进行工程化,因为软件物料清单 (SBOM) 在未来将变得非常、非常重要,我们需要了解你正在用什么构建产品,以及你有什么依赖项。”
“不再存在所谓的‘零日漏洞’了。”
这延伸到了 AI 物料清单 (AI-BOM),用于跟踪所有非确定性组件,如模型权重、训练数据集和第三方 API,以防止供应链地图出现缺口、数据投毒和监管不合规。
Baguley 还预测,公司很快将停止全面采用开源项目,转而选择通过 fork 并仅保留他们使用的部分。另一方面,他认为 AI 驱动的“构建自有系统”的便捷性正在变成科学怪人(Frankenstein’s monster),他举例说,17 名不同的 HR 专业人员构建了 17 个不同的 AI 代理来解决他们日常工作的不同方面。
Rice 在讨论中补充说,当你考虑到这些 AI 代理拥有的员工隐私信息时,这种 HR 场景变得更加令人担忧。
“我预测我们会看到一些恐怖故事,人们编写自己的各种东西,并且它会有漏洞。无论你的模型有多好,它编写出绝对安全代码的可能性并不比人类高,”身为 Container Security 和 Learning eBPF 作者的 Rice 说。“假设是一个非技术背景的人;他们可能不知道这是否安全。因此,随着创建代码变得更加容易,我们可能会看到这种情况更多地发生。”
“无论你的模型有多好,它编写出绝对安全代码的可能性并不比人类高。”
如果科学怪人被锁在实验室里,那还是一回事。但如果有人把那个不安全的智能体 AI 从他们的笔记本电脑上带走,并与他们团队中其他技术水平较低的同事分享呢?
“HR 里现在有人有了软件,它可以做某件事;你不需要付费买 Asana。我现在有一个 Asana 能做的东西,但它现在是在本地运行的,”小组成员、Cloudsmith 开发者关系主管 Nigel Douglas[7] 向 PlatformCon 的听众表示。“我们需要开始意识到,资源的使用者不再仅仅是拥有良好培训经验的开发者。”
那么,答案是每个人——来自每个部门的每个人和每个代理——都应该被纳入内部开发者平台吗?还是这呼唤着一个更传统的命令与控制型 IT 平台?
我们必须……再次改变平台构建方式吗?
在这个后神话时代,补丁已经无法跟上修补的速度。
忘记对未来的预测吧;今天的 AI 模型可以自主发现、链接并大规模利用软件漏洞,这就是为什么 Rice 告诉 The New Stack:“组织将需要运行时防护(runtime shields)来在有时间打补丁之前保护自己。”
运行时防护通常基于 eBPF,可以保护文件系统、防止权限提升并监控网络访问。它们是动态的,比传统的响应式措施(如缓存)实施起来更快,后者需要软件重新构建和重新部署。这些防护起到权宜之计的作用,提供针对已知漏洞或意外行为的即时保护。
“我们可以防止权限提升;我们可以检查网络访问,所有这些我们都可以为其构建防护的不同条件,无论是作为防止‘氛围编程’(vibe-coded)操作意外失控的防护栏,还是以检测特定利用或问题行为的 CVE 特定运行时防护形式出现,” Rice 说。
这并不意味着你不会重新打补丁和重新构建,但在 AI 的速度下,已经精疲力竭的安全和站点可靠性工程师无法跟上。仅在 2025 年,就发布了创纪录的 48,185 个常见漏洞和披露 (CVE),其中 20% 被认为具有严重或高风险。与此同时,同一份 EdgeScan 漏洞统计报告[8] 显示,修复漏洞的平均时间为 55 天。
这让 PlatformCon 的小组成员最担心这些 n-day 威胁,即那些公开的、已知的、可修补的、但还没人去处理的威胁。
“我们正在研究如何构建能够即时修补并持续更新以应对这种即时 n-day 威胁的平台,” Baguley 在小组讨论中沉思道,就像 iPhone 更新一样,普通用户根本不关心它做了什么。
归根结底,已经没有所谓的低级利用漏洞了。
“我们进入了一个世界,这不仅仅是关于我们如何控制代理,而是关于你如何思考重建平台。我们不能再使用 20 年前关于安全的流程了,” Baguley 说。
“这是同时进行的‘向下转移’和‘左移’。你需要思考如何让你的平台更精简、更稳固、更快速。”
你们的平台团队是如何找到一种既能安全地跟上 AI 创新步伐,又能应对创新型 AI 攻击的方法的?在 LinkedIn 上与我联系[9],让你们的经验、修复方案和人机代理协作案例成为 The New Stack 下一个研究案例。
引用链接
[1] AI-generated software is forcing yet another platform rethink: https://thenewstack.io/ai-code-security-platforms/[2] PlatformCon London: https://platformcon.com/live-day-london[3] Isovalent: https://isovalent.com/[4] Liz Rice: https://www.linkedin.com/in/lizrice/[5] internal developer platform: https://thenewstack.io/7-core-elements-of-an-internal-developer-platform/[6] Joe Baguley: https://www.linkedin.com/in/joebaguley/[7] Nigel Douglas: https://www.linkedin.com/in/nigel-douglas-devrel/[8] EdgeScan 漏洞统计报告: https://www.edgescan.com/stats-report/[9] 在 LinkedIn 上与我联系: https://www.linkedin.com/in/jkriggins/

