OpenAI 联合创始人 Ilya ：AI 的轻松增长期结束，真正的难题才刚开始！

硅基生命AIGC

2025-12-01

OpenAI 联合创始人 Ilya Sutskever，在沉默数月后最近终于在一档播客中公开发声。

尖锐地批评了当前 AI 行业的发展方向，并暗示了他的新创公司 SSI 的研究重点，这家公司如今估值已达 320 亿美元。

Ilya 认为，行业长期依赖的暴力扩展路径已经撞上天花板。现在的大模型在各种基准测试上表现亮眼，但落地到具体经济活动上，影响却远低预期。

他把这个矛盾点称为“锯齿”。在某些任务上表现得像天才，但在一些非常基础的问题上却反复卡壳，甚至陷入自相矛盾的错误循环。

你让模型帮你写代码，结果出现一个 bug。你说：帮我修复一下。模型会说：你说得对，我来改改。然后它给你引入第二个 bug。当你指出新的 bug 后，它又说：哎呀，你说得太对了。结果把第一个 bug 又带回来。然后你们就在两个 bug 之间来回跳。为什么会这样？我也不确定，但这说明里面有些很奇怪的机制。

Ilya

Ilya 把出现锯齿的原因归因为两点：

一是强化学习（RL）带来的隧道视野。RL 的训练目标很明确，这让模型过于专注和单一，缺乏对更广泛情况的奖励。就像把注意力都绑在了一个点上，看不到周边可能发生的变化。

另一个原因是过度依赖评估驱动的训练。当高质量的预训练数据快见底后，大厂们开始非常小心地搭建 RL 环境来继续训练模型，但这其实是在把模型训练成考试机器。

模型学会了在特定的评测里表现优异，但并没有学会真正的、能应对复杂现实场景的通用能力。就像某人花一万小时刷竞赛编程题，比赛里无敌，但现实问题却不见得能迎刃而解。

情绪是价值函数的答案

为什么人类在泛化上远胜模型？Ilya 提出是因为人类有价值函数，而这个价值函数被情绪调节着。

人不是只靠计算来学东西，我们还靠情绪给动作打分。愉悦、沮丧、焦虑、好奇这些情绪，是人类判断这一步是不是对的的关键信号。它们让我们在样本极少时就能快速调整方向、修正错误。

有人因脑损伤失去了情绪处理能力，虽然语言和逻辑还在，但做决定变得极其困难，连选袜子都可能耗费数小时。情绪损失导致价值判断失灵。情绪并不是无用的噪声，是进化赋予我们的、帮助快速学习和决策的内置评估系统。AI 没有这种系统，所以难以像人那样高效、稳健地泛化。

Ilya

从 Scale 到 Research

Ilya 认为 2020 到 2025 年可以被称为扩展时代，大模型、海量数据、天价算力，这条路径在这几年几乎能保证进步。预训练的发现是个关键突破，让很多公司有了低风险投入的路径。

但现在，这条路的红利正在慢慢消失。毕竟预训练数据不是无限的，RL 虽然可以继续推进，但成本高且不一定能带来理想的泛化改进。

Ilya 不相信把规模再扩大 100 倍就能解决问题。扩展时代让行业里几乎所有人都在做同一件事，以至于真正的、基础性的研究被压缩。

他认为，我们不应该继续把钱砸在规模上，需要回到发现新的机器学习基本原理，去解决模型泛化这道根本题。

关于 SSI

Ilya 表示 SSI 已经融资约 30 亿美元，估值接近 320 亿美元。更重要的是，他说 SSI 拥有足以让团队证明他们的方法是否正确的算力。

当被问到如何赚钱时，他的回答很直接：先把研究做对，商业化的问题会自然而然浮现。

结论

Ilya 的这些见解，为我们描绘了一幅与主流叙事截然不同的AI未来图景。当扩大规模不再是唯一的答案时，整个行业的发展道路似乎正汇聚到一个单一而艰巨的挑战上：破解泛化的密码。

【声明】内容源于网络

硅基生命AIGC

专注于为企业打造AI数字应用，致力于将前沿AIGC人工智能技术转化为可落地、高价值的商业应用

内容 117

粉丝 0

硅基生命AIGC 专注于为企业打造AI数字应用，致力于将前沿AIGC人工智能技术转化为可落地、高价值的商业应用

总阅读257

粉丝0

内容117