硅谷流传着这样一个笑话：离开普通科技公司的员工会说“我要开启下一段冒险”，而离开人工智能领域的从业者则感叹“我曾直视深渊，现在只想退休写诗”。
昨日，前 OpenAI 及 Anthropic 研究员 Jacob Coxon 宣布辞职。他在股权归属前夕主动放弃权益离场，直指两大巨头正在追逐具备自我改进能力的超级智能，将人类未来置于险境。Coxon 表示：“从事 AI 研发的人士真诚地认为，到本十年末，人工智能可能会将我们全都杀光。”该言论发布不到一天，浏览量即突破亿次。
Coxon 的批评揭示了行业内部的深层分歧：OpenAI 部分人员尚未完全内化“文明级风险”的概念；而 Anthropic 虽深知风险，却抱有“若我们不负责，别人更不会负责”的心态，从而继续参与竞赛。
值得注意的是，过去四天内，共有七位 AI 领域内部人士集中发出了类似的警告：
为何预警声音集中爆发？
研究者意识到，公众已难以分辨行业是在如实报告危险，还是在借机宣扬技术变革力。2024 年，一批 AI 从业者曾在公开信中呼吁建立匿名渠道，指出保密协议和对报复的恐惧阻碍了风险披露。
对于离职者的言论，不必急于将其神化为英雄或贬低为投机者。离开使其声音更易被听见，但这并不直接等同于其判断的绝对正确性。早在 Coxon 辞职前，OpenAI 首席科学家 Jakub Pachocki 已于 9 月 6 日发文预警，指出模型进步可能延伸至递归式自我改进，而社会尚未准备好承受此种速度。
担忧情绪与持续研发为何并存
前 DeepMind 研究员 Alex Turner 指出，思考如何阻止灾难本身就是他的日常工作。对他而言，留下来监督、测试并寻找防护方案，或许比离开更具建设性。
安全工作本身就在公司的资源与目标框架内。一个研究者完全可以同时珍惜收入、信任团队、享受发现的过程，却又对研究成果感到恐惧。道德冲突往往不需要虚伪的人格来制造：只要日常职责足够具体，而远处的后果足够模糊，人便可能一面担忧全局，一面认真执行眼前的任务。
每家公司的逻辑往往是相信自己比竞争者更谨慎，退出只会让更冒进者掌握技术。因此，“保持领先”被解释为保护公众的前提。当所有参与者都遵循此逻辑时，个人的责任感未必带来集体的节制，反而可能为加速提供新的理由——因为“落后”被赋予了道德上的危险性。
2026 年 2 月，Anthropic 修订了其负责任扩展政策，将企业单独措施与行业协作措施剥离，明确安全路线图目标不具强制约束力，并增加了风险报告与外部审查机制。公司强调，高等级的防护无法单靠一家企业完成。
领先带来的收益归属于公司，而潜在损失却可能由未参与决策的大众承担。单纯呼吁研究者的良心，难以替代对整个激励结构的系统性约束。只要竞争条件能成为调整承诺的理由，公众就有权追问：究竟还有哪些边界不会随之移动？
AI 末日论是耸人听闻吗？
2024 年发表于《人工智能与伦理》的一项研究借用哈贝马斯理论提出批评：灭绝叙事可能将公共讨论导向少数技术企业的利益，从而挤压当下已经存在的具体问题。
该研究援引了交往行动理论及“系统与生活世界”的二元区分，提醒人们注意：宣布技术可能毁灭世界，可能在无意中抬高了技术的地位，让开发者同时成为危险的制造者和解释危险的权威。
前 DeepMind 研究员 Jonathan Richard Schwarz 所担忧的正是实验室带来的权力集中。即使机器始终服从指令，发出指令的人若掌握过多权力，本身就构成了公共问题。
《国际人工智能安全报告 2026》区分了恶意使用、系统失误和广泛的社会风险，并在失控可能性上保留了专家分歧。诈骗、歧视、劳动关系变化与灾难性失控，需要不同的证据和治理方案。
将所有风险压缩成一个“末日问题”，容易让具体的受害者消失在抽象的人类命运叙述中。对被诈骗者或被算法歧视者而言，伤害无需等到遥远的未来节点。关心长期风险，不应以忽视眼前处境为代价。
一项针对 2778 名 AI 论文作者的研究显示了更复杂的图景：受访者对发展速度及其利弊存在分歧，但较一致地赞成加强风险研究。担忧并非几位离职者的私人情绪，也不代表未来时间表已定。
数据显示，38% 的参与者认为极端糟糕情况（如人类灭绝）发生的概率至少为 10%；70% 的受访者认为 AI 安全研究应得到更多重视。
普通读者无需在全盘相信与一笑置之之间摇摆。关键在于分清哪些是已观察到的行为，哪些是推断，哪些仍是假设。我们需要关注：独立评估者能否获取必要信息？员工能否安全报告问题？危险能力达到何种程度必须暂停？损害发生后谁承担责任？
监督机制应有复核和调整的余地，避免以安全之名固化少数公司的优势。公众无需成为模型专家，才有资格要求这些安排。我们应避免把不确定性当作加速的通行证，或将最坏想象作为取消讨论的理由。在证据不足时，行动仍需承担说明责任；对不可逆后果的谨慎，应包括检查防护是否有效、措施是否适度、代价是否公平，而非仅仅拉响警报。