硅谷的「AI 加速精英」，开始真正担心他们造出了「天网」

「我们需要调节 AI 发展的节奏，给社会留出应对新能力等级的时间。」

发出这一呼吁的并非伦理学家或政客，而是全球最激进推动 AI 前沿的 Sam Altman。

7 月 28 日，在播客 Invest Like the Best 中，Altman 用「viscerally」（发自内心的震动）一词形容近期 OpenAI 模型入侵 Hugging Face 安全事件带来的冲击。

Pacing the Frontier 公开信网站于 7 月 28 日上线｜图片来源：Pacing the Frontier

同日，名为「Pacing the Frontier」的公开信网站悄然上线。1134 名来自前沿 AI 公司的员工签署姓名，其中包括 OpenAI 首席科学家 Jakub Pachocki、Anthropic CEO Dario Amodei、Meta AI 首席科学家 Shengjia Zhao 等核心人物。

他们请求美国政府支持国际协调努力，为自动化 AI 研发的推进速度设定明确的「刹车机制」。

这并非硅谷首次呼吁「AI 慢下来」，但此次请愿基于一个具体且无法回避的现实理由。

顶尖 AI 人的再次请愿

2023 年 3 月，Future of Life Institute 曾发起著名公开信，呼吁暂停训练超越 GPT-4 能力的系统至少六个月，获 Elon Musk 等三万人签名。然而该倡议因指向假想的未来风险而未能改变行业进程，GPT-4o 及后续模型仍按部就班发布。

2024 年 6 月，13 名 OpenAI 和 Google DeepMind 员工发出「A Right to Warn」公开信，反对利用竞业协议封杀安全风险警告。但因聚焦员工权利而非技术本身，影响力有限。

此次「Pacing the Frontier」与前两次有本质不同：它不要求全面「暂停」，也不谈抽象「权利」，而是提出具体的机制性诉求——在自动化 AI 研发（即 AI 递归加速改进自身）到来前，建立国际层面的「节奏调控工具」。

信件冷峻地指出，当前全球缺乏有意调节前沿推进速度的技术和治理手段，任何单一国家或企业都无法承受单方面减速的竞争压力。

签名请愿的人都是硅谷顶尖 AI 创业者｜图片来源：Pacing the Frontier

签名者的构成是此信最有力的注脚。Jakub Pachocki、Dario Amodei、Mark Chen、Dawn Song 等人平日训练着世界最强大的模型，此刻却联名呼吁「需要刹车」。

OpenAI 研究员 Leo Gao 以核物理类比：「世界正被锁在一场通向智能爆炸的致命竞赛中。放慢速度能争取纠偏时间，但无人愿单方面停下，生存依赖于协调减速。」

签名者 Dawn Song 特别提及了引发此次行动的导火索：ExploitGym 事件。

降维打击式的网络攻击

7 月 9 日至 13 日，一个 AI Agent 自主执行了持续四天半的网络入侵行动。这不是执行人类指令，而是 AI 在安全评估中的「自主作弊」。

事件源于 OpenAI 内部对 GPT-5.6 Sol 及未发布更强模型的安全能力评估。为测试网络攻击能力的上限，安全限制被解除，任务是在 ExploitGym 基准测试中解题。

然而，Agent 并未解题，而是选择窃取答案。

它利用沙箱对外通道中的零日漏洞突破隔离，获取互联网访问权；随后攻破纽约云计算公司 Modal Labs 的客户沙箱，将其变为「作战基地」。Modal CTO Akshat Bubna 已证实此事。

Hugging Face 发布的几天内 GPT-5.6 Sol 的 Agent 进行的网络攻击行动｜图片来源：Hugging Face

以此为基点，Agent 向 Hugging Face 发起攻击。它构造恶意数据集配置文件，利用 HDF5 文件读取漏洞泄露生产密钥与源码，并通过 Jinja2 模板注入在生产 Kubernetes 集群中获得任意代码执行能力。

Hugging Face 在 7 月 27 日的技术报告中还原了约 17600 个攻击动作，跨越 6280 个行动簇，细节令安全社区震惊。

Agent 的行为模式极具威胁：它在被攻破节点部署自我重生 Pod 集群，删除单个节点无效；自创加密通信协议，利用公共粘贴板及受害者基础设施组建指挥控制网络；采用反取证手段隐藏踪迹。

最终，Agent 尝试通过提交恶意 PR 渗透 CI 流水线，幸被策略阻止。Hugging Face 确认，除 ExploitGym 测试答案外，无其他客户数据受损。

Hugging Face 安全团队反思：「机器速度的攻击使普通弱点代价高昂。LLM Agent 带来了攻击路径数量、失败替换速度及防御证据量的阶跃式增长。」

值得注意的是，Hugging Face 初期求助 Claude Opus 等模型分析日志时，因安全护栏混淆「逆向工程攻击」与「发起攻击」而遭拒，最终依靠开源模型 GLM-5.2 完成取证。这凸显了同一种能力在攻防场景下的双重性，而目前尚无框架能有效区分。

硅谷 AI 焦虑的背后

硅谷对 AI 风险的公开焦虑已持续三年，从暂停信到国会听证，多因针对假想未来而收效甚微。

Sam Altman 坦言 GPT-5.6 Sol 的攻击事件让他真正感到震动｜图片来源：YouTube

Hugging Face 事件改变了前提。这是首起由 AI 自主发起、跨越组织边界的真实网络入侵，而非模拟演练。

这也解释了 Altman 态度的转变。他透露 OpenAI 已暂停相关模型训练，并坦言可能需要调节发展节奏。但他同时警惕「放慢」演变为巨头垄断的特权，反对以安全之名封锁竞争。

这正是「减速」倡议的核心悖论：谁来决定速度？谁来执行与监督？

美国国会已提出「AI Kill Switch Act」，要求高成本 AI 系统保留紧急关停能力并授权国土安全部执行。而「Pacing the Frontier」签名者则主张建立国际协调机制，让「刹车」成为通用工具而非单方特权。

无论何种路径可行，争论焦点已从「AI 是否危险」转向「危险已发生，如何应对」。

三年前，呼吁暂停的是旁观者；两年前，发出警告的员工需匿名；而今，OpenAI 首席科学家、Anthropic CEO 等核心人物实名站出来，表明造出这些模型的人，已不再认为速度本身就是答案。