硅谷流传着一个笑话：普通科技从业者离职时会说“我要开启新的冒险”，而人工智能领域的离职者则会说“我曾直视深渊，现在要去写诗了，请多陪陪家人”。
近日，前 OpenAI 研究员、Anthropic 员工 Jacob Coxon 宣布辞职。他指出，这两家头部公司正在追逐具备自我改进能力的超级智能，并将人类的未来置于险境。Coxon 直言：“从事 AI 研发的人士真诚地认为，到本十年末，人工智能可能会将我们全都杀光。”该言论发布不到一天，浏览量即突破 1 亿次。
Coxon 对两家公司的批评侧重点有所不同：他认为 OpenAI 部分人员尚未真正内化“文明级风险”的概念；而 Anthropic 虽清楚风险，却抱有“若我们不负责，别人更不会负责”的心态，从而继续参与竞赛。
值得注意的是，Coxon 在股权归属前两个月主动离职，放弃了巨额权益，以此表明其并无通过抬高估值获利的动机。过去四天内，包括 Anthropic、OpenAI 及 Google DeepMind 在内的七位核心研究人员接连发声，表达了对 AI 失控的深切担忧。
为什么这些声音集中出现？
研究者意识到，公众已难以分辨行业是在预警风险，还是在变相炫耀技术能力。2024 年，一批 AI 从业者在《关于先进人工智能的警告权》公开信中指出，保密协议和对报复的恐惧阻碍了风险披露，呼吁建立匿名报告渠道。
看待离职者，无需急于将其定义为英雄或投机者。他们的离开使其言论更值得被倾听，但这并不直接证明其判断绝对正确。早在辞职潮之前，OpenAI 首席科学家 Jakub Pachocki 已于 9 月 6 日发文警告，模型的递归式自我改进速度可能超出社会的承受能力。
担忧与继续研发为何能够并存
前 DeepMind 研究员 Alex Turner 表示，他的日常工作正是思考如何阻止灾难。部分研究者认为，留在内部进行监督、测试和寻找防护方案，比单纯离开更具建设性。
安全工作本身也是公司目标的一部分。研究者可能同时珍惜收入、信任团队，却又恐惧研究成果带来的后果。这种道德冲突并非源于虚伪，而是因为日常职责具体可见，而远期后果模糊不清。
每家企业都倾向于相信自身比竞争对手更谨慎，认为退出只会让技术落入更冒进者手中。这种逻辑导致“保持领先”被异化为保护公众的前提。当所有参与者都如此推理时，个人的责任感未必带来集体的节制，反而可能为加速竞争提供新的道德理由。
2026 年 2 月，Anthropic 更新了其负责任扩展政策，区分了单方可行措施与需行业协作的措施，并明确安全路线图中的目标不具强制约束力，同时增加了外部审查机制。公司强调，高等级的防护无法靠单一企业完成。
领先带来的收益归于公司，潜在损失却由全社会承担。仅靠劝说研究者提升良心，无法替代对整个激励结构的约束。只要竞争条件能作为调整承诺的理由，公众就有权知晓哪些边界是不可移动的。
AI 末日论是耸人听闻吗？
2024 年，《人工智能与伦理》期刊发表研究指出，过度强调“灭绝叙事”可能将公共讨论导向少数技术企业的利益，从而挤压现实中已存在的具体问题。
该研究援引哈贝马斯的理论批评道：宣称自己的技术可能毁灭世界，无意中抬高了技术的地位，使开发者同时成为危险的制造者和解释者。前 DeepMind 研究员 Jonathan Richard Schwarz 特别担忧实验室带来的权力集中问题：即使机器服从指令，掌握指令的人拥有过大权力本身即是公共隐患。
《国际人工智能安全报告 2026》区分了恶意使用、系统失误和社会风险，指出专家对失控可能性仍存分歧。诈骗、歧视、劳动关系变化与灾难性失控需要不同的治理方案。将这些压缩为单一的末日问题，容易让具体的受害者消失在抽象的人类命运叙事中。
一项针对 2778 名 AI 论文作者的调查显示了更复杂的图景：受访者对发展速度利弊存在分歧，但普遍赞成加强风险研究。数据显示，38% 的参与者认为极端糟糕情况（如人类灭绝）发生的概率至少为 10%；70% 的受访者认为 AI 安全研究应得到更多重视。
公众无需在全盘相信与一笑置之之间摇摆。关键在于分清哪些是已观察到的行为，哪些是推断，哪些仍是假设。我们需要关注：独立评估者能否获取必要信息？员工能否安全报告问题？出现损害后谁承担责任？
监督机制应有复核和调整的空间，避免以安全之名固化少数公司的优势。证据不足时，行动仍需承担说明理由的责任。对不可逆后果保持谨慎，不仅意味着拉响警报，更包括检查防护是否有效、措施是否适度以及代价是否公平。