Jeff Dean、李飞飞齐给 RSI 泼冷水：硅谷热炒 AI 自我进化，究竟有多少是幻想？

在 Google 工作 27 年后，Jeff Dean 选择重新创业。这位参与过 MapReduce、Bigtable、TensorFlow、TPU 和 Gemini 等项目的技术领军人物，将目光投向了更具挑战性的方向：让 AI 不仅能解决问题，还能自主设计实验、验证结果，并从过往研究中持续学习。

在斯坦福大学 HAI 的公开活动中，Jeff Dean 首次系统介绍了新公司 Discovery Loop 的技术思路与进展。团队汇聚了来自 Gemini、DeepSeek、Kimi 等项目的研究人员及 Go 语言项目成员，其中约 10% 的成员曾获 ACM 计算奖或国际信息学奥林匹克竞赛奖牌。公司旨在将资深工程师与年轻研究人才结合，通过自动化系统提升科研效率。

Jeff Dean 设想，未来少数领域专家可借助数以万计的 AI Agent 并行探索研究方向，实现科研过程的自动运转。Discovery Loop 已开发 Agent Harness 基础设施，运行约 20 个自动化改进循环，目标是将领域专家的生产力提高 20 至 50 倍。

相比传统大型工程需拆解问题并协调多团队的模式，Discovery Loop 尝试由自动化系统承担子问题识别、实验组织及方向调整工作，从而克服资源协调难、结果整合难及初始拆解僵化等问题。

演讲结束后，Jeff Dean 与斯坦福大学教授、World Labs 联合创始人李飞飞就 RSI（递归自我改进）、AI 物理极限及科学家角色等话题展开对话。

为何离开 Google 创业？

李飞飞：祝贺创办 Discovery Loop。过去一两年是否有决定性时刻，让你和 Quoc、Sanjay、Oriol 意识到必须离开 Google 去做不同的事？

Jeff Dean：我们一直对自动化系统，尤其是辅助软件开发的技术感到兴奋。十年前，Quoc 在神经架构搜索方面的工作可视为早期递归式自我改进系统，但当时需用笨拙的 Python 代码定义搜索空间。如今，通过自然语言即可指令模型探索新架构。这种认知转变让我们相信，稳定可靠的系统能在科学和工程领域产生积极社会影响。

李飞飞：所以决心源于这种循环及自我改进能力？

Jeff Dean：是的，我们对此颇为痴迷。此外，我们享受从小团队起步的过程。当只有五人研究某事，随后逐渐加入新人，那种感觉很奇妙。虽然大公司内部也能实现，但我们希望通过公益公司形式体现价值观，且创业过程中的各种事务也颇具趣味。

澄清概念：“硅谷正在滥用 RSI”

李飞飞：从增量学习到元学习，再到如今的 RSI，概念繁多。能否严格定义自我改进与递归自我改进的区别，以区分幻想与事实？

Jeff Dean：自我改进系统是指设定目标后，系统尝试改善可测量指标。例如，为提升 MRI 解读模型准确率，系统自动尝试不同架构。但这并未改进负责提出方案的基础系统。

李飞飞：这本身并非递归。

Jeff Dean：正确。递归自我改进的关键，在于让自我改进方法反过来优化负责提出改进方案的系统本身。

李飞飞：在硅谷，RSI 常被随意使用，作为科学家这让我困扰。厘清定义非常必要。

AI 无限自我进化不符合物理现实

李飞飞：RSI 常被炒作成无终点系统。哪些是炒作，哪些是现实？

Jeff Dean：回顾过去十多年，人类通过聚集优秀研究人员运行大量实验，筛选有效方法整合至下一代模型（如 Gemini 1 到 Gemini 2）。自动化能加速此过程，例如系统可即时查看凌晨结束的实验结果并决定下一步，比人工协调更高效。

然而，改进速度无法无限增长，因为涉及真实物理过程。计算、数据保存与分析均需时间。认为循环能以无限快速度运行的想法不可信。自动化虽能提高速度，但受物理限制。

李飞飞：人类是自我改进还是 RSI 系统？我学习煎蛋是自我改进，但若大脑神经元连接随之改变，是否算 RSI？

Jeff Dean：人类两者皆是。我们既学习具体技能（如微积分），也学习如何学习。理解何种知识呈现方式易被吸收，并利用此认识加速其他学习，即具备递归自我改进能力。

李飞飞：某种意义上，递归自我改进也是一种进化算法。公开讨论此问题有助于遏制过度炒作。

Discovery Loop 的研究重点

李飞飞：Discovery Loop 具体研究哪些科学问题？

Jeff Dean：长期看，我们对医疗健康领域感兴趣，这与公益使命一致。但目前主要关注数字化科学与工程领域，因其实验循环最易加速。初始重点为三个领域：机器学习研究、机器学习工程及硬件设计。这些领域的突破可释放其他领域潜力，例如自动生成专用模型用于医疗或材料科学。

李飞飞：物理学分实验与理论派。你的方法强调并行实验，是否意味着科学发现更偏向实验主义？

Jeff Dean：不一定对立。系统同样可进行理论研究，如寻找简洁理论解释现有数据。理论与实验不应完全分离。若系统在百个领域进行亿次实验，积累跨领域洞察，解决新问题时将不受学科边界限制，优于受传统院系划分影响的人类。

李飞飞谈 AI 数学突破：数学家看到的不只是答案，还有美

李飞飞：近期 AI 解决诸多数学难题。陶哲轩认为部分问题仍超出 AI 能力，尤其缺乏现成解法和数据时。你如何看待？

Jeff Dean：当前模型及 Agent 系统已能解决高难度数学问题。人们的不安源于证明过程可能包含数百页机器检查的代码，缺乏人类追求的简洁与优雅。优雅解法往往衍生新技术，应用于其他问题。虽然知道命题可证伪有价值，但理解优雅技术同样重要。

李飞飞：新成果只能从优雅解法中产生？

Jeff Dean：非也。优雅解法通常带来新技术，而冗长机器证明未必具备此特性。但确认可解性本身极具价值，能激励探索更优解法。

一篇被 NeurIPS 拒绝的论文，如今被引用约 4 万次

李飞飞：回顾 Transformer 论文发布近九年，哪些技术时刻最重要？你预测对了什么，又错了什么？

Jeff Dean：Transformer 效率高，保留状态并通过注意力机制访问信息，而非像 LSTM 那样遗忘此前信息。另一重要进展是模型蒸馏。我与 Oriol、Geoffrey Hinton 参与的蒸馏研究曾于 2016 年被 NeurIPS 拒稿，认为无影响力。该论文现已被引用约 4 万次，对开发高效轻量模型至关重要。

MoE 架构也很有价值。但我预测错误之处在于，原以为 MoE 会引发更多奇特、有机化的神经网络架构出现，如类似神经活动柱的结构或远距离连接。然而，目前架构仍较规则。

李飞飞：神经架构搜索产生的模型确实更有机化，但未达预期。

没预料到 AI 编程能力会如此重要

Jeff Dean：另一预测失误是低估了编程能力的重要性。未预料到编程成为模型解决各类问题的关键能力。

李飞飞：同意。虽知编程重要，但其深远影响超出预期。

Jeff Dean：在 Gemini 项目中，编程并非最核心重点，但事实证明其至关重要。

李飞飞：AI 对社会影响深远，包括就业、焦虑及安全等。你最担忧什么？

Jeff Dean：AI 作为通用技术，同时影响众多领域，既令人兴奋也引发忧虑。我最担忧的是如何在各领域充分获取 AI 红利的同时，最小化负面影响。这不仅是技术问题，更涉及监管、政策及公民共同思考。需确保受影响人群能适应新需求，获得有意义工作及稳定收入。

李飞飞：对焦虑的年轻学生有何寄语？

Jeff Dean：世界快速变化使规划困难。建议了解新兴技术，并利用技术从事热爱之事。无论医生、作家或程序员，AI 均可赋能。但人类需决定共同完成之事，个人应找到真正想做的事并做到最好，学会使用现有工具。

李飞飞：即使在 AI 时代，人类的热情依然是永恒的。谢谢 Jeff。

Jeff Dean：谢谢。

原视频链接：

https://www.youtube.com/watch?v=ooGKNwJWdb8

声明：本文为 AI 前线编译，不代表平台观点，也不构成投资建议，未经许可禁止转载。

热度延续：12 月 AICon 北京站见