大数跨境
首页
>
Hinton 联合 20 多位 AI 大牛警告：「智能爆炸」时代要来了
>

Hinton 联合 20 多位 AI 大牛警告：「智能爆炸」时代要来了

Hinton 联合 20 多位 AI 大牛警告：「智能爆炸」时代要来了 APPSO
2026-10-03
63
导读：现在已经不是模型一代更比一代强这么简单了
“AI 之父”杰弗里·辛顿（Geoffrey Hinton）联合多位行业领军人物发出最新警告，矛头直指近期备受关注的“递归自我改进”（RSI）技术。剑桥大学人工智能科学与政策项目（CASP）发布了一份由二十余位研究者共同撰写的报告，作者阵容包括 OpenAI 首席科学家 Jakub Pachocki、Anthropic 联合创始人 Jack Clark、微软首席科学官 Eric Horvitz，以及 Yoshua Bengio 和 Dawn Song 等。
值得注意的是，该报告同步发布了中文版本，凸显了中国在 AI 行业中的重要地位。报告并未断言“智能爆炸”已然发生，而是深入探讨了一个日益具体的问题：当 AI 研发工作逐渐移交至 AI 自身时，技术进步是否会突然加速？

数据揭示：AI 深度参与自身迭代

报告数据显示，这一循环的初始阶段已经显现。Anthropic 内部由 AI 生成并获批的代码占比，从 2025 年初的个位数激增至 2026 年 5 月的 80% 以上；仅需人类高层监督、主要由 AI 自主完成的研发工作，也从今年 3 月的 1% 上升至 8 月的 26%。
OpenAI 表示，代码 Agent 已应用于未来模型的训练、评估及安全工作中；Google 也确认，几乎所有涉及代码、技术设计和研究构思的工作均在不同程度上引入了 AI。如今，最强模型已能独立处理需专家耗时数天甚至数周的 AI 研发任务。按此趋势外推，至 2028 年中，AI 或具备承担原需人类专家数月完成之研发项目的能力。
Claude 官方数据披露 AI 已深度参与其自身迭代。图片来自：Anthropic
AI 正逼近关键临界点：不仅是模型性能代际提升，更在于 AI 开始深度参与制造取代自身的下一代模型。

解析 RSI：并非觉醒，而是流程优化

“递归自我改进”（RSI）常被误解为 AI 产生意识并自我升级，但其本质更接近于一种工业流程优化。想象一家生产机器的工厂：首台机器不对外销售，而是留在厂内改造生产线；改进后的生产线造出性能更强的第二台机器，后者继续优化工厂。每循环一次，机器性能更强，生产速度更快。
近期，Google Research 发布的 RRSI 允许 Agent 自动修改提示词、工具及控制流；Meta 发布的 MetaRSI / RSI² 则让系统从失败中改进“制造模型的机器”，使后续模型继承这些优化。

RSI 发展的三个阶段

1. 辅助工具阶段：AI 作为研究员的助手，协助编写代码、检索文献和排查错误。研发方向仍由人类决定，AI 不掌握决策权。
2. 研发流水线阶段：AI 成为研发环节的一部分。研究员提出高层目标，Agent 负责拆解任务、执行实验及方案比对，人类仅确认有价值的路径。此时，AI 提升了公司的“有效研究员数量”，单人可调度数百个 Agent 并行试错。
3. 真正递归阶段：AI 参与研发出更强、更廉价的下一代模型，新模型随即回流至研发流程，承担更多任务并部署更多“机器研究员”。研发能力的提升形成正向反馈循环。
实质上进行自我改进的，是由模型、Agent、算力及人类研究员构成的整套系统。

潜在风险：可能突然加速的“智能工厂”

AI 研发因主要发生于数字世界，极易形成加速循环。相较于芯片制造以年为单位的反馈周期，算法优化、合成数据生成及 Agent 工作流验证可迅速部署并投入下一轮研发。
报告估算，若 AI 达到顶尖研究员水平且运行成本维持现状，仅 OpenAI 现有的推理算力理论上即可支撑相当于数百万人类研究员的 AI 队伍。这支“数字队伍”无需物理空间，可全天候并行试错，且核心目标正是让后续 AI 更聪明、更廉价。
Sam Altman 参观与 OpenAI 与甲骨文合作开办的数据中心工地。图片来自：Oracle
在理想化假设下，报告推算全面实现研发自动化后约一年半内，AI 技术进步速度可能提高十倍。届时，当前需一年完成的进步或许仅需五周。Hinton 将此称为“智能爆炸”，意指不仅数量激增，强度与完成度也将迎来爆发。

理性审视：循环加速面临的现实阻碍

尽管前景惊人，报告亦指出目前证据不足以证明“爆炸”必然发生。数百万 AI 研究员的估算基于模型已达专家水平且成本未涨的前提。然而，更多 Agent 未必带来等比例发现，可能存在重复劳动或在顺序依赖问题上停滞。
此外，研发新一代模型受限于实验算力、训练数据及大型训练任务的时间成本。即使 AI 能瞬间提出万种方案，现实计算资源也难以逐一验证。在生物、材料等领域，实验结果的等待时间无法通过代码压缩。
历史数据显示，算法进步与算力增长相互纠缠，单纯依靠软件改进是否足以维持循环持续加速尚存疑问。报告的核心担忧在于持续加速本身：随着 AI 不断参与制造下一代 AI，“智能爆炸”的可能性虽未定论，但其具象化的加速趋势已不容忽视。
【声明】内容源于网络
0
0
APPSO
AI第一新媒体，「超级个体」的灵感指南。 #AIGC #智能设备 #独特应用 #Generative Al
内容 15794
粉丝 0
APPSO AI第一新媒体，「超级个体」的灵感指南。 #AIGC #智能设备 #独特应用 #Generative Al
总阅读482.3k
粉丝0
内容15.8k