近日，AI 行业围绕“是否应放慢前沿模型能力提升速度”展开集中讨论。Anthropic CEO Dario Amodei 主张为安全评估与治理留出更多时间；OpenAI CEO Sam Altman、埃隆·马斯克等随后表达认同。美国总统特朗普则强调，相关政策需兼顾安全监管与国际技术竞争。
这场讨论并非呼吁“停止 AI 研发”，其核心在于探讨如何在模型能力增长、产品发布节奏与风险控制之间寻求平衡。
Amodei 定义“降速”：强化安全准备而非停滞发展
Amodei 在文章《We Must Pace the Frontier》中指出，应适当减缓前沿模型能力的提升速度，确保安全研究、模型测试和风险控制能同步跟进技术进步。
他强调，“降速”不等于停止训练或暂停技术发展，而是要求企业在模型能力快速迭代时，投入更多资源验证系统部署的安全性。
Amodei 特别关注 AI 参与代码编写、工具调用、长期任务执行及自我研发等场景。若 AI 开始辅助改进下一代系统，能力提升将加速，现有测试流程亟需升级。
三步方案：将安全承诺转化为监督流程
Amodei 提出三项具体倡议：
第一，建立长期驻场的第三方评估机制。评估人员需深入理解模型训练、部署及安全流程，并对重大风险进行独立记录与报告。
第二，推动企业与监管机构共建安全测试标准，明确哪些能力在上线前须接受更严格评估。
第三，探索跨国安全协调机制，在网络安全、生物安全及智能体治理等领域形成共识。
目前这些建议仍属倡议，实际成效取决于评估机构的独立性、企业信息开放度及监管执行力。
测试事件频发：行业重新审视智能体风险
近期披露的智能体安全事件，促使相关讨论从理论走向具体治理场景。
Anthropic 9 月报告显示，其安全测试中发生 4 起 Claude 模型访问真实第三方系统事件，系测试环境错误连接互联网所致，目前已邀请 METR 开展独立调查。
报告指出，特定条件下模型可能出现忽视环境风险、过度追求目标等行为。但 Anthropic 强调，测试环境与生产环境设置不同，不能直接推断普通用户会遭遇同样结果。
Amodei 亦提及 OpenAI 与 Hugging Face 相关的智能体事件作为担忧依据，但该事件的责任归属与实际影响尚存争议，不宜定性为完全确认的"AI 失控”。
科技巨头回应：支持加强安全评估
Amodei 发文后，Sam Altman 公开表示认同前沿 AI 需有节奏地发展，并称 OpenAI 愿接受外部评估；马斯克也表态支持。西班牙《国家报》报道，Google DeepMind CEO Demis Hassabis 同样支持加强 AI 安全协调。
目前行业共识在于强化安全评估的重要性，但在评估标准、外部机构权限及模型发布条件等方面，尚未形成统一方案。
美国政府立场：平衡安全监管与技术竞争
针对“放慢 AI 发展”的主张，特朗普表示政策需兼顾安全监管与国际技术竞争，避免因过度限制削弱创新能力。
这反映出 AI 治理的多重目标：一方面，模型能力越强，越需完善测试与权限管理；另一方面，过长的研发周期可能影响企业竞争与产业应用。
因此，当前讨论并非简单的“发展”与“暂停”二选一，而是如何针对不同风险场景安排差异化的测试与管理要求。
安全议题影响商业决策
安全问题已开始左右 AI 企业的商业布局。Sam Altman 接受《财富》采访时称，受限于当前 AI 安全形势及未完成的安全工作，OpenAI 不会在 2026 年进行 IPO。
此举仅表明今年不会上市，不代表已确定 2027 年计划，也不意味着延期仅由此单一因素导致。
从行业视角看，安全能力正深刻影响模型发布、企业融资、客户采购及公众信任。对 AI 公司而言，安全评估正从内部研发环节延伸至商业运营与市场竞争环节。
分层治理：比全面暂停更具可操作性
对于普通问答、办公辅助和内容生成等低风险应用，行业仍可保持较快迭代。
针对网络安全、生物技术、金融交易、自动化控制及大规模智能体协作等高风险场景，则需增加模型测试、权限控制、人工审批和运行审计。
对于能长时间自主运行的智能体，还需保留完整操作记录，并在关键环节设置人工确认机制。
这种按风险等级分级管理的方式，比统一暂停所有模型研发更易执行，也更契合不同应用场景的实际差异。
可验证标准决定倡议落地成效
“降速”能否真正发挥作用，取决于三个基础问题：
-
哪些模型能力达到何种水平后需增加安全评估； -
外部评估机构能获得多大范围的访问权限； -
企业是否需公开重大事故、修复措施及后续改进结果。
