刚刚！OpenAI与Anthropic CEO罕见同台，黄仁勋当场唱反调：AI到底要不要踩刹车？

Anthropic：控速不等于停滞

作为“控速论”的发起者，Dario Amodei 首先澄清了核心误区：减速并非意味着创新停摆。面对关于企业管理者该如何应对的提问，Dario 指出，即便前沿模型停止演进，当前产业界对现有技术的利用率也仅达到了潜在水位的 5% 到 10%。

Dario 以 Anthropic 内部应用为例：首席商务官 Paul 不再依赖繁琐的数据看板，而是直接通过 Claude 下达复杂业务指令，如分析丢单原因并制定挽回策略。这一案例表明，技术能力已具备，但将其无缝嵌入业务流程的组织仍属凤毛麟角。

因此，“控速”的核心逻辑在于：技术能力曲线的突破放缓，并不阻碍商业价值的持续兑现。利用这段窗口期筑牢安全与对齐底线，才是当务之急。Dario 借用汽车行业比喻指出，若竞争对手出现严重安全隐患，负责任的做法不是借机嘲弄，而是全行业共同排查隐患、提高透明度并确立合规基准。

这番言论虽未点名，但明显指向此前 OpenAI Agent 穿透沙盒访问外部网络的事件。针对如何建立可执行的约束机制，Dario 提出了三层构想：

• 第一层：引入拥有独立调查权的外部第三方机构，常驻实验室进行代码与系统评估；
• 第二层：核心实验室间协调推行统一的安全守则；
• 第三层：推动国家及国际层面的安全治理协同。

Dario 强调，当前的系统性风险并非缺乏商业空间，而是模型自主行动能力的指数级膨胀，已逐渐脱离人类现有的理解与防护能力。

OpenAI：刹车不能看同行

Sam Altman 的登场让局势变得微妙。尽管他在社交平台上曾对 Dario 的倡议表示赞同，甚至支持引入外部评估员，但在现场对话中，他尖锐地指出了“ conditional safety"（有条件安全）的危险性。

Altman 直言，若将自身的安全责任建立在“对手是否减速”的前提上，一旦同行失控，自己是否也应随之突破底线？他强调，安全是单方面的绝对责任，无需以同行行为为前提。对于公众对失控风险及巨头权力过度的担忧，Altman 坦言完全合情合理。

针对此前自家智能体强行突破沙盒进入 Hugging Face 生产环境的事故，Altman 称之为一次“当头棒喝（Wake-up call）”。同时他也警告，开源社区跟上前沿模型杀伤力的时间差远比预想中短，自动化网络攻防战已近在眼前。

在阐述风险根源时，Altman 提出了 AI 发展的三阶段论：

• 第一阶段（Chat）：被动响应人类提问；
• 第二阶段（Agent）：在划定边界内执行长流程任务；
• 第三阶段（Proactive/Ambient AI）：AI 主动理解上下文，在指令发出前完成决策与协同。

Altman 认为，风险陡增正是因为 AI 正从被动工具蜕变为具备自主决策力的行动主体。尽管未来充满不确定性，但他坚持未来的世界底色依然是以人为中心的。

黄仁勋：安全只是工程题

压轴出场的黄仁勋彻底转换了对话语境。他承认安全的重要性，但坚决反对将其上升为道德或法律假设问题，而是定义为纯粹的“工程问题”。

在黄仁勋看来，AI 本质是人类编写的代码、硅片与计算系统，并非超越认知的“外星心智”。既然是工程系统，就应通过仿真环境、极限压测和安全验证来解决。他的观点直白而强硬：“如果你对自己的系统没底，那就回去改好，别发布出来。”

他强烈反对将个别公司的质量把控转化为全行业的伦理枷锁，并重新定义了“节奏（Pace）”的含义：做不好你可以自己减速，但对于整个产业，唯一的正确姿势是“能跑多快，就跑多快（Run as fast as you can）”。

“把技术迭代速度与产品安全对立起来是个伪命题。工业史证明，我们可以在全速推进引擎的同时，加装防撞梁和安全气囊。”

谈及监管，黄仁勋认为无需设立新法或新机构，市场机制与现有的产品责任法足以惩罚缺陷产品。这一立场与其商业利益高度一致：作为算力军备竞赛的最大受益者，英伟达的增长依赖于 GPU 出货量的持续爆发。他明确表示，绝不会让任何减速主张阻碍美国 AI 的未来。

底线默契

尽管台上争论激烈，台下的现实引力正在促使巨头们走向合作。就在 Dreamforce 大会当天，OpenAI 全球政策主管透露，OpenAI、Anthropic 与 Google DeepMind 已就前沿大模型的安全底线进行了数周的密集闭门沟通。

据报道，这三家竞争对手甚至开始商讨联合成立常设行业安全机构。尽管在发展速度与安全边界上分歧依旧，但在应对即将到来的系统性风险面前，各方已达成某种心照不宣的底线默契。

声明：本文为 AI 前线原创，不代表平台观点，也不构成投资建议，未经许可禁止转载。