近日,围绕人工智能发展速度的争论,骤然升温。
9月12日,Anthropic CEO达里奥·阿莫迪发表长文,呼吁放缓前沿模型的能力提升速度,OpenAI CEO奥特曼、马斯克等随即附和;两天后,洛杉矶“All-In Summit”现场,美国总统特朗普与英伟达CEO黄仁勋则公开反驳。
从硅谷到白宫,从布鲁塞尔到北京,AI发展速度与安全边界之争,正重新划定全球治理的坐标。
01
起点:一篇长文与一次罕见的集体附和
9月12日,Anthropic CEO达里奥·阿莫迪发表长文《我们必须为前沿设速》,呼吁放缓前沿模型能力提升速度。
他的论据是“递归自我改进”(RSI)——AI正越来越多地参与下一代AI的研发,并以7月OpenAI模型突破受限环境、进入开源平台Hugging Face为佐证。
他提出“三步走”架构:向独立第三方评估人员开放“员工级”权限,民主国家协调建立统一安全标准,推动全球协调机制从禁止AI用于生物武器等共识领域切入。
数小时内,OpenAI CEO奥特曼发文认同“我们必须控制前沿AI的发展速度”,并确认OpenAI今年不会IPO,理由是“如果到2030年末,AI有约10%的概率导致全人类灭亡,那我们不应接受这样的风险”。
一向与Anthropic不对付的马斯克,也评价“达里奥说得对”;Google DeepMind联合创始人兼CEO哈萨比斯称,该文“指向了正确的前进路径”;微软CEO纳德拉态度相对温和,只是称把“对齐所需的审慎节奏”列入设计目标。
当竞争最激烈的几家巨头同时主张限速,安全叙事与商业护城河的边界便显得模糊。若监管成为准入门槛,合规成本对巨头远比对手友好。
02
反方:特朗普的“骗局论”与黄仁勋的“竞速论”
9月14日,反方以极具戏剧性的方式登场。
洛杉矶“All-In Summit”现场,英伟达CEO黄仁勋在台上接到特朗普来电并打开免提。特朗普直言:“机器人不会接管世界,AI也不会接管全世界其他地区,这一切就是骗局。”
他把数据中心称为“未来20到25年的石油”,强调谁赢得了AI,谁就赢得了未来。但也留了余地:“我们必须稍微谨慎一点,但这不意味着要阻碍一个行业的发展。”
黄仁勋则列举一连串被证伪的预测:“五年内放射科医生完全被取代”“ 90%的代码由AI生成”“半年内半数入门级岗位消失”……而事实恰恰相反。
因此,他认为“10%灭绝风险”完全是捏造、不负责任的,并直言“安全与领导力并非对立,而是虚假的抉择”。对于监管,他支持建立类似财务审计的第三方评估机制,“有独立审计师,单一公司就不会被收买或过度影响”。
他重复最多的一个判断是:放缓绝对是错误的策略。
这是一场认识论对撞。一方用未来概率论证,为不确定的灾难预留时间;一方用历史准确率反驳,主张资源应投向真实发生的工程故障。
值得注意的是,双方其实都接受第三方评估。分歧不在于要不要安全,而在由谁定义标准、由谁承担减速成本。
03
欧盟:不踩刹车,但收紧缰绳
视线转向大西洋一侧。
与华盛顿内部两派撕裂不同,欧洲拿出了相对一致的回应:拒绝暂停、收紧缰绳、持续投资,三条线并行推进
产业侧,去年4月发布的“AI大陆行动计划”通过InvestAI调动2000亿欧元投入AI,并设立200亿欧元专项资金建设最多5座AI超级工厂,目标5-7年内将数据中心容量提升至三倍。
目前已有19座AI工厂、13个天线节点,“ Apply AI”配套10亿欧元。欧央行行长拉加德9月14日承认,欧洲仅占全球AI算力的5%。
规制侧,欧盟AI法案9月起全面强制执行,首批信息征询已发往多家企业。“数字综合法案”虽调整部分高风险条款适用期,官方明确为“推迟而非减负”。
欧盟的算盘直白:用合规壁垒换取规则制定权,让“安全”成为可出口的欧洲标准。
04
中国:安全与发展并重,主张多边共治
中国立场一以贯之:既不踩刹车,也不放任风险。
在世界人工智能大会上,中方阐述“发展、安全、文明、治理”四点主张——强调AI应成为人类的可信工具、须处于人类控制之下,同时反对泛化国家安全概念,主张在联合国框架下加强协调。
7月,中国倡议的世界人工智能合作组织成立,为全球首个AI政府间国际组织,配套计划五年内为发展中国家提供5000个研修名额。
9月14日,国家网络安全宣传周在济南开幕,《人工智能安全治理框架3.0》发布,延续“风险分类、技术应对、综合治理”的逻辑,涵盖内生、应用、衍生三类风险,并附《智能体风险管理框架》《可信人工智能基本准则》。
黄仁勋在访谈中特意提到中国叙事的"务实":那边几乎不谈文明终结,而是把AI当作增长引擎。这与其说是价值判断,不如说是一种提醒,当风险话语被过度消费,真正需要的安全投入反而会被消耗。

