大数跨境

Anthropic CEO 敦促 AI 公司放缓模型开发

Anthropic CEO 敦促 AI 公司放缓模型开发 AI电商圈
2026-09-13
5
导读:Anthropic CEO Dario Amodei 敦促主要 AI 公司放缓其最先进模型的开发工作,并允许进行独立的安全审查,他表示,能力更强的系统可能带来日益增长的网络安全和自主改进风险。

Anthropic CEO Dario Amodei 呼吁主要 AI 公司放缓顶尖模型开发,并引入独立安全审查。他指出,随着系统能力增强,网络安全及自主改进风险正日益加剧。

OpenAI CEO Sam Altman 支持设立拥有类似员工权限的独立评估者;Elon Musk 亦公开表示认同 Amodei 的观点。

Anthropic 宣布将向第三方评估机构开放广泛访问权限,包括派驻嵌入式人员至其办公室,以验证安全措施并及时报告潜在事件。

行业协调面临挑战

尽管头部企业达成共识,但全行业协同放缓仍存阻力。一位即将离职的 Anthropic 研究人员警示了 AI 的极端灾难性风险概率,而大规模的行业减速措施在实际执行层面可能引发复杂问题。

【声明】内容源于网络
0
0
AI电商圈
1234
内容 930
粉丝 0
AI电商圈 1234
总阅读6.5k
粉丝0
内容930