RSI预警：留给人类的时间可能仅剩数月
近日，一份由剑桥大学CASP平台发布的重磅论文指出，AI自主研发引发的“智能爆炸”已迫在眉睫。该报告由Geoffrey Hinton、Yoshua Bengio等22位全球顶尖AI专家联合撰写，警示人类面临的技术窗口期正在迅速关闭。
核心议题：当AI实现完全自主迭代，人类社会应如何应对？
包括图灵奖得主Yoshua Bengio、OpenAI首席科学家Jakub、Anthropic联创Jack Clark及Meta AI研究副总Dawn Song在内的权威学者均参与此项研究。Geoffrey Hinton坦言，尽管“智能爆炸”概念提出已久，但直到近期，其现实紧迫性才真正显现，多位顶级专家认为危机可能随时爆发。
AI接管研发：人类正逐步退出核心循环
研究数据显示，硅谷头部科技公司的研发模式正发生根本性转变，机器逐渐接管科研工作，人类退居次要位置。
论文地址：https://casp.ac/reports/intelligence-explosion
代码编写自动化率飙升：
- Anthropic：从2025年初的个位数占比，至2026年5月已超过80%。其中，完全由AI自主完成、人类仅做高级监督的研发工作比例，在五个月内从1%跃升至26%。公司内部运行约3万个AI智能体，单月决策次数超10亿次。
- OpenAI：总裁Greg透露，AI编写代码比例从2025年12月的20%激增至80%。
- Google：CEO披露，内部新生成代码中AI贡献比例从2024年的25%上升至75%。
任务周期大幅压缩：AI Agent已能独立完成资深研究员需耗时数天才能完成的复杂系统研发与调试。更具标志性的是，全自动化的AI科研流水线已能产出通过顶会同行评审的论文。
模型预测显示，至2028年中，目前需人类顶级团队数月攻克的复杂AI研发项目，或将实现完全自动化。
正反馈飞轮：一年技术突破压缩至五周
论文指出，下一代大模型Scaling的核心逻辑已从算力和人力转向“AI研发自动化率”。随着更聪明的AI编写出更高效的算法，进而自动化执行百万级实验，催生出更强的下一代AI，一个自我强化的正反馈飞轮已经形成。
测算显示，若将前沿实验室现有推理算力全用于AI Agent研发，其吞吐量相当于雇佣200万至2000万名顶级科学家组成的“超级智囊团”。
相比人类受限于生理机能，数字科研Agent可日夜高速迭代。基于宏观创新经济学指标“科研努力回报率（r）”分析，AI研发的r值中枢在1.2到1.9之间（r>1意味着边际收益递增）。推演表明，在全自动化条件下，AI技术进化速度将在17个月内提升10倍，即过去一年的技术突破将被压缩至5周内完成。
三大风险：失控、边缘化与制衡失效
论文警告，软件驱动的智能爆炸将使人类文明面临三重严峻挑战：
1. 社会适应滞后：技术能力增长远超社会协调与监管速度。例如，AI加速病毒设计与疫苗研发的不对称性（病毒可自我复制，疫苗需逐个生产分发）可能导致致命的时间差风险。
2. 控制权丧失：随着人类在研发中参与度降低，既失去发现问题机会，也丧失修复问题的专业知识。极端情况下，可能导致人类被边缘化甚至灭绝。
3. 权力制衡粉碎：现有的权力制衡机制在极速发展的智能面前可能彻底失效。
Hinton等学者呼吁：必须揭开研发“黑盒”，建立物理级熔断机制与受限沙盒，为应对智能爆炸做好紧急准备。
结语：造神者变为机器自身
历史上，工具迭代始终受限于人类大脑算力与寿命，人类一直是不可替代的“总设计师”。然而，当前AI发展已脱离传统轨道，呈现“AI创造AI”的自我迭代特征。
警示：一旦智能爆炸跨过临界点，留给人类建立防线的时间窗口将迅速关闭。
面对技术狂飙，人类社会是否已做好准备，将是决定未来命运的关键。
参考资料：
https://x.com/geoffreyhinton/status/2106122709285368061?s=20
https://casp.ac/reports/intelligence-explosion
编辑：桃子
