Anthropic CEO Dario Amodei 呼吁主要 AI 公司放缓顶尖模型开发,并引入独立安全审查。他指出,随着系统能力增强,网络安全及自主改进风险正日益加剧。
OpenAI CEO Sam Altman 支持设立拥有类似员工权限的独立评估者;Elon Musk 亦公开表示认同 Amodei 的观点。
Anthropic 宣布将向第三方评估机构开放广泛访问权限,包括派驻嵌入式人员至其办公室,以验证安全措施并及时报告潜在事件。
行业协调面临挑战
尽管头部企业达成共识,但全行业协同放缓仍存阻力。一位即将离职的 Anthropic 研究人员警示了 AI 的极端灾难性风险概率,而大规模的行业减速措施在实际执行层面可能引发复杂问题。

