Anthropic CEO呼吁建立AI安全强制测试机制
Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）近日发文指出，仅靠透明度规则已不足以应对当前挑战。他主张美国应为顶尖AI模型建立具有约束力的安全测试体系，类似航空领域的FAA监管模式。该机制需包含强制性第三方审计，并赋予政府权力以阻止或撤销存在网络攻击、生物武器研发及失控风险的模型部署。
这一倡议正值Anthropic扩大其受限版Claude Mythos 5模型访问权限之际。研究显示，该模型具备自主执行复杂网络攻击的能力。与此同时，Anthropic在完成650亿美元融资、估值达9650亿美元后，正积极筹备IPO。
针对此类安全警告，OpenAI CEO山姆·阿尔特曼等批评者将其斥为“基于恐惧的营销”，担忧这可能成为少数公司垄断AI控制权的借口。对此，阿莫代伊予以驳斥，强调此举旨在回应公众对AI安全的真实关切，而非公关手段。