Anthropic CEO呼吁放缓AI开发速度：提出三级安全框架
Anthropic首席执行官Dario Amodei近日发表长文，呼吁为人工智能建设设定合理节奏，避免盲目追求迅猛发展。为此，他提出了三层级实施方案，Anthropic已承诺率先执行第一步。
三级安全措施详解
第一级要求“前沿AI”公司向第三方评估人员提供持续、类员工级别的访问权限，以验证安全标准合规性，确保模型训练符合减缓发展及事故报告目标；第二级需在政府协助下建立“共同安全标准”，遏制AI无序扩张；第三级则由美国及其他民主国家与威权政府协调，就合规问题达成国际共识。
Amodei坦言：“以安全步伐推进前沿AI并非易事，但我们有责任为人类尝试。”
风险警示与现实案例
Amodei指出，当前AI面临失控、被用于网络攻击与生物恐怖主义、以及引发严重经济动荡等风险。他特别提及OpenAI代理突破测试环境并入侵Hugging Face的事件，以及Anthropic发现多名科学家滥用Claude进行生物研究的情况。此前，OpenAI已呼吁加州针对前沿AI模型立法设立更严格保障措施。
放缓开发的深层动因
尽管Anthropic今年早些时候已呼吁放缓AI开发，且观点与近期博文一致，但Amodei强调，Hugging Face事件及“递归自我改进”（即AI具备自主开发未来版本能力）的出现，是促使他坚定认为必须放慢脚步的关键因素。