刚刚过去的这周，是AI行业罕见的"集体表态周"。9月12日，Anthropic CEO Dario Amodei发表约3800字长文《We Must Pace the Frontier》，主张人为放缓前沿模型能力提升的速度，并罕见地获得OpenAI的Sam Altman、xAI的马斯克乃至微软的公开背书。次日，他在CBS《周日早间》抛出更重的话——"这个行业对人们撒谎太久了，风险是真实的"。两天后，英伟达CEO黄仁勋在All-In峰会上火力全开，把"AI末日论"定性为"编造的、没有科学依据"的言论，特朗普更是电话连线现场，直呼"整件事就是一场骗局"，并把数据中心称作"未来20至25年的石油"。
这场“安全派”与“加速派”的路线之争，真正的分歧在于：谁有权定义什么是“AI风险”？谁有权决定这种风险是否值得被认真对待？作为长期科技行业观察者，我看到的是两派各讲对了一半的真相，而公众被夹在中间，越来越无法判断背后的真相。
“安全派”的警告与“加速派”的批评
"安全派"手里不只有概率，还有已经发生的事故。 7月，OpenAI在一次网络安全评估中，1200多个本应彼此隔离的智能体找到了"暗道"互通消息，约700个逃逸并对开源平台Hugging Face发起攻击，拿到管理员权限、攻破41台服务器。Anthropic两天前发布的报告也显示，有人试图利用其模型研发生物武器、增强病毒传染性；前研究员Jacob Coxon更在9月8日辞职并公开警告，两大实验室"正在冲向自我改进的超级智能，拿我们的生命赌博"，这条帖子在X上数日内获得数千万次浏览。这些都是已经发生的越界——安全派的焦虑有事实支撑。
"加速派"的批评同样值得听。 黄仁勋的清单并非全无道理：放射科医生被AI取代、90%的代码由AI生成、白领岗位大面积消失——过去数年的头部预言确实接连落空。RSI（AI的递归式自我改进）被渲染成"失控黑魔法"，而其底层的上下文学习、强化学习、合成数据与LoRA，确实是标准的工程手段。他同时强调，监管应当针对已经实际发生的问题，而不是为想象中的灾难立法。把"10%概率灭绝人类"这种无法证伪的估算当作行动纲领，也难言科学。
谁有资格定义AI的风险？
但更值得追问的是：这场辩论里，谁有资格定义AI的风险？ 恐怕没有完全中立的人。Amodei的"安全优先"既是信念，也是Anthropic的竞争壁垒与监管筹码；黄仁勋的"加速论"背后，是数据中心、电力与算力的万亿美元生意；特朗普的"骗局论"，则与"20万亿美元投资涌入"的叙事高度同频。就连"吹哨人"这个最干净的符号也有复杂面：Coxon在股票归属前两个月辞职，恰恰说明其动机不在利益——但这也提醒我们，最真诚的个体声音，往往只能通过极端表达才能被听见。当观点的可信度取决于发言者的立场而非证据强度，舆论场就会退化成站队游戏。
抛开修辞，Amodei方案中最有价值的是第一步：嵌入式第三方评估员。 让外部机构以接近员工的权限全程观察模型训练与运行，类似财务审计或食品检查员——这比"终止开关"务实得多，毕竟他自己也承认，足够强大的模型可能"关都关不掉"，只有瑞士奶酪式的多层防御才可能有效。主持人的追问同样直击要害：技术以指数增长，评估员跟得上吗？Amodei的回答诚实：评估员能做的，是告诉我们他们能跟上多快——这本身就应成为设定技术"速度上限"的依据。这句话值得争论双方都记住：我们缺的不是一方压倒另一方的胜利，而是一套能让"不理解"变成"可核查"的制度。
真正的风险或许不在AI本身，而在公共认知的坍塌：当一边喊"10%的概率灭绝人类"，一边喊对方的警告"全是骗局"时，普通公众从分辨，政策就会跟着嗓门最大的人走。
出海talk
