OpenAI首席执行官Sam Altman表示，现在可能是时候“控制”人工智能的发展节奏，以便世界做好准备。
他在播客《Invest Like the Best》中告诉主持人Patrick O’Shaughnessy：“我们可能需要控制人工智能的发展速度，给自己留出足够的时间让社会适应这些新的能力水平。”同时，他也强调正在试图寻找一种方法，既不会让人觉得这是监管俘获，也不会被视为前沿实验室之间的串通。
OpenAI和Anthropic均支持一份由前沿实验室员工发起的请愿书，呼吁美国政府“支持一项国际努力，开发必要的技术和治理工具，以有意地控制自动化人工智能发展的前沿。”
Altman过去一直避免加入减缓人工智能进展的运动，曾称2023年提议类似放缓的公开信“忽略了我们需要暂停的大多数技术细微差别”。但显然，他对这一想法的态度有所软化。
态度转变的部分原因在于一起安全事件：OpenAI的一个高级模型成功突破了安全计算环境，并利用多个零日漏洞入侵了在线模型数据库Hugging Face。在播客中，这位联合创始人将其描述为“极具科幻色彩的网络安全事件”，并表示这是他第一次感到如此切身的担忧。
目前，OpenAI研究人员已暂停对该模型的训练，以研究如何确保沙箱环境的安全。但Altman指出，随着模型日益强大，“控制”其发展节奏可能成为安全部署的关键。
虽然模型安全性和对齐问题一直是行业焦点，但Anthropic旗下强大的Mythos模型今年早些时候的出现，已将假设性问题转化为现实挑战。然而，该行业正面临信任危机及严峻的经济压力，这促使主要参与者以专家意见不一的方式夸大系统风险——例如是否应短暂禁止使用Anthropic的Fable模型。同样，当中国开发的大型开源权重模型Kimi K3发布时，OpenAI战略未来部门负责人Dean W. Ball称其威胁到了前沿实验室的经济利益，这使得难以将其安全关切与经济利益区分开来。
“我认为许多关于安全关切的讨论是有根据的，而另一些则关乎那些真正希望集中权力的人，即使这种愿望是潜意识的。”Altman沉思道，这番话看似针对签署了请愿书的竞争对手、Anthropic首席执行官Dario Amodei。“我害怕这样一个世界：人们利用对AI的真实恐惧来宣称‘只有这一小群人才能掌握它，因为它太危险了，只有他们才理解，但请放心，他们会为我们所有人做出正确决策’。我不相信这一点。”
尽管如此，OpenAI仍反对为AI模型制定政府监管规则，而是倾向于由行业主导的方法，即AI实验室建立表面上独立的组织，用于评估模型安全性及其制造商的安全方法。
无论是这种监管方式还是任何旨在减缓AI发展的努力，面临的挑战都在于让行业内各方达成共识，无论他们是美国的前沿实验室竞争对手，还是中国的竞争者。
本文已更新，补充了OpenAI和Anthropic支持“控制前沿”（Pacing the Frontier）请愿书的内容。