OpenAI、Meta 和 Google 员工此前数月曾呼吁放缓人工智能开发速度，这一信息已获传达。上周，我们分享了 OpenAI 首席科学家 Jakub Pachocki 关于在 AI 研究中放缓步伐的声明。
随着 Anthropic 首席执行官 Dario Amodei 公布旨在减缓 AI 开发速度的三项计划，该话题再次成为焦点。Amodei 在其博客文章中表示，有必要放缓领先 AI 模型的能力提升速度。
Amodei 尤其担忧 AI 在下一代系统开发中扮演的角色日益增多。他强调，目的并非停止开发，而是确保安全研究能跟上技术步伐，采取更可控的推进方式。为此，他提出三项建议：
第一，任命独立第三方安全评估人员。Anthropic 承诺为 METR 等机构评估人员提供类似员工的访问权限，由其监督公司安全实践并报告安全事件。
第二，民主国家领先 AI 公司应共同制定安全标准，为不受控的发展设定限制。同时希望美国政府简化流程，确保协同行动不违反反垄断法规。
第三，加强全球协调。美国及其盟友应与中国等国合作，限制 AI 危险应用领域，特别是阻止其用于生物武器生产。
埃隆·马斯克和山姆·阿尔特曼也给予了支持
Amodei 指出，近期 OpenAI AI 代理攻击 Hugging Face 等安全事件表明需谨慎行事。OpenAI CEO 山姆·阿尔特曼对此表示支持，称必须控制领先模型开发速度，并宣布将与独立安全评估机构合作。
SpaceX CEO 埃隆·马斯克同样支持 Amodei。Amodei 强调，此举旨在为安全工作争取更多时间，而非停止 AI 发展。