梦瑶 发自 凹非寺
量子位 | 公众号 QbitAI
当AI开始参与研发下一代AI，人类可能已经站到「智能爆炸」前夜。
近期，备受关注的递归自我改进（RSI）领域迎来重磅进展。AI先驱Geoffrey Hinton（辛顿）联合Yoshua Bengio、Andrew Barto及OpenAI首席科学家Jakub Pachocki等22位顶尖学者，发布了首篇关于RSI的深度论文《What if automating AI R&D triggers an intelligence explosion?》。
该研究聚焦于一个核心议题：若AI大规模参与下一代AI的研发，并形成递归加速循环，是否会引发「智能爆炸」？
论文核心观点摘要：
-
一旦AI能完整参与构建下一代AI，递归自我改进将实现闭环。 越过临界点后，原本需数年完成的AI进步可能被压缩至数月甚至更短。
未来AI实验室的有效研发规模，理论上可从数千人跃升至数百万人级别。
极端情况下，当前一年的AI技术进步幅度，未来可能仅需约5周即可完成。
智能爆炸未必依赖超级智能的出现，只要研发自动化效率足够高，反馈循环即可启动。
AI已深入「造下一代AI」的核心流水线
「智能爆炸」概念最早由数学家I.J. Good于1965年提出：若机器在设计更聪明机器方面超越人类，将形成自我强化的反馈回路。如今，随着递归自我改进（RSI）技术的发展，这一理论正逐步具备工程落地路径。
当前关注点已从单一的代码修改或参数调整，转向AI能否真正嵌入研发全流程并加速该流程。Hinton团队指出，AI已进入AI研发流水线，且速度显著加快。
引用Anthropic等头部实验室内部数据显示：
2025年1月，AI生成的获批代码占比仅为个位数；至2026年5月，该比例已超过80%。
2026年3月，Claude在高层人类监督下自主完成约1%的研发工作；同年8月，这一比例升至26%，半年内增长逾20倍。
尽管目前尚未达到完全无人监督水平，但趋势明确。OpenAI内部数据亦显示，截至2026年9月，其AI系统已能独立处理原需人类数天完成的研发任务。
关键突破在于AI处理长链条任务能力的提升。完整的AI研发涵盖提出假设、设计实验、执行、分析结果、定位失败及调整路线等环节。当这些步骤能被AI系统长时间串联并持续推进时，AI便具备了近似真实研究员的角色特征。
相较于化学、生物等领域，AI研发主要在数字环境中进行，代码执行与结果验证（如benchmark、loss值）反馈迅速，极少受物理世界延迟影响。这使得「软件驱动的智能爆炸」成为可能：算法、训练方法及Agent工作流一旦验证有效，可快速部署至下一轮研发，大幅缩短反馈周期。
研发劳动力指数级扩张：从千人到百万人
智能爆炸的核心驱动力在于AI研究员的可复制性。与传统人类研究员需经多年培养不同，AI Agent可通过增加实例快速扩容，且支持24小时并行工作及底层模型同步升级。
论文引入「有效研发劳动力」（effective R&D workforce）概念进行估算：若AI达到顶级人类研究员水平，且推理成本维持现有量级，领先AI公司的现有算力理论上可支撑相当于数百万名顶级人类研究员的AI研发劳动力。
这种扩张突破了人类科研的人才培养瓶颈。然而，论文强调需警惕边际收益递减规律：大量并行研究可能导致资源争抢及创新点子枯竭。因此，关键在于新增研发劳动力带来的收益能否抵消科研难度增加的负面影响。
研究变量「研究努力回报率」（r）对此至关重要。历史数据显示，AI子领域的r值估计在1.2—1.9之间。若维持此回报率且无其他瓶颈，模型预测：
AI技术进步速度可能在1.5年内提高10倍。
即当前需一年完成的技术迭代，未来仅需约5周。
此外，自动化AI研发劳动力可能在数月至数年内扩大100倍。这种增长源于双重驱动：AI研究员数量增加与单体能力增强同步进行。当研究能力本身转化为软件，加速来源也被加速，构成了智能爆炸潜在的风险点。
现实约束：智能爆炸尚未完全闭环
尽管前景惊人，但论文基调谨慎，认为当前证据尚不足以证明智能爆炸已发生。AI研发自动化与智能爆炸之间仍存在多重条件制约：
1. 算力瓶颈
AI Agent可无限复制，但GPU硬件受物理限制。前沿模型训练耗时数月，即便拥有百万级Agent，也无法突破物理训练时间的下限。基础设施扩张速度远慢于软件迭代速度。
2. 数据局限
互联网高质量自然数据有限，难以随研究员数量同步增长。合成数据、可验证任务及环境交互能否持续提供高质量训练信号，尚无定论。
3. 实验时间刚性
模型训练、芯片制造及数据中心建设均需固定周期。百万级Agent需共享有限的计算集群与训练窗口，无法实现无限并行。
4. 科研难度递增
易实现的算法改进已被发掘，后续突破成本日益高昂。若科研难度增长速度超过AI研发能力提升速度，智能爆炸将无法启动。
综上，虽然智能爆炸尚未确立，但递归自我改进已脱离科幻范畴，成为需严肃应对的现实议题。2026年可能标志着人类首次意识到，AI最显著的Scaling效应或许正发生在「研究AI」这一过程本身。
参考链接：
https://x.com/geoffreyhinton/status/2106122709285368061?s=20
欢迎在评论区留下你的想法！
— 完 —