大数跨境

从 Research Scaling 到 RSI:AI 能否找到「神之一手」——深度解析 OpenAI 两篇文章:AI 做研究是在堆实验量,还是在重塑判断力?

从 Research Scaling 到 RSI:AI 能否找到「神之一手」——深度解析 OpenAI 两篇文章:AI 做研究是在堆实验量,还是在重塑判断力? Research AI+
2026-09-11
6
导读:9 月 6 日,OpenAI 一天发了两篇关于 AI 研究的文章。一篇《Research acceleration: The view inside OpenAI》,讲 AI 已经如何进入 OpenA
本文来自社区投稿。关于Liz:Research AI+社区 Research Fellow,前🐧算法,野生全栈,热爱build,技术E人。专注于将前沿算法落地为真实可用的产品,也喜欢把抽象复杂的技术讲得通俗有趣。

围棋里所谓「神之一手」,通常指那种极其罕见、出乎常规判断,却足以改变整个局势,甚至让人重新理解棋局的落子。

9 月 6 日,OpenAI 一天发了两篇关于 AI 研究的文章。

一篇《Research acceleration: The view inside OpenAI》,讲 AI 已经如何进入 OpenAI 内部的研究流程;另一篇《An Alien Mind》来自其首席科学家 Jakub Pachocki,讨论的是一个更长远的问题:如果 AI 越来越多地参与下一代 AI 的研发,这条路最终会把我们带到哪里。

两篇放在一起读,非常有趣。此前 AI 一直是被研究的对象,而在这两篇的叙述里,它已经开始参与制造下一代 AI。

OpenAI 给出的内部数据比较激进。2026 年年初,按 Agent 使用量排序的中位研究员还只是有限地使用 coding agents;到 8 月中旬,Agent 已经每天进入他们的工作流。按标准 8 小时工作日折算,整个研究组织的 agent runtime 已经达到:每投入 1 个 human workday,对应 3.1 个 agent-workdays。研究员提交的代码更多了,跑的实验更多了,委托给 Agent 的任务也越来越长、越来越复杂。

但同时,OpenAI 自己对这些数字又比较谨慎。3.1 倍的 agent runtime 显然不能直接翻译成「科研进步提高了 3.1 倍」。研究是一条很长的链路,任何一个没被自动化的环节,都可能成为新的 bottleneck。尤其要注意的是,目前 Agent 的输出里,high-level planning 仍然只占极小一部分,也就是说研究优先级怎么排、哪些 idea 和 result 值得继续、什么时候该 scale、pause 或 deploy,仍然主要由人在判断。

OpenAI 说自己已经达到此前设定的「automated research intern」目标:AI 可以在人类指导下完成 well-defined research tasks,包括原本可能需要熟练研究员数天完成的工作。至于真正的「automated AI researcher」,则仍然被放在更远的目标线上。

我们需要注意一下这个描述的区别,今天已经比较明确被 scale 的,是「做研究」的 bandwidth;而「决定研究什么」还远没有被同等程度地自动化。

这让我觉得,真正值得讨论的问题已经从传统意义上的 Scaling Law 向外延伸了一层。过去几年我们不断验证的是:随着 model size、training data 和 training compute 增长,模型 performance 能不能继续可预测地提升。现在开始出现另一个问题,那就是 research 本身,能不能被 scale

从 Scaling Intelligence 到 Scaling Research

过去 AI 发展的基本关系是:Human Research → Better AI。人类提出算法、搭建系统、设计实验、训练模型,于是有了下一代更强的 AI。当 AI 开始进入 research process,这条关系正在慢慢变成:Better AI → More / Better Research → Better AI。

Pachocki 在《An Alien Mind》里的判断是:如果当前的能力进展继续,未来几年 AI 会越来越多地推动自身发展;automated AI research 本身,可以理解成一种更加激进的「用 compute 去 scale intelligence」的方式。Recursive Self-Improvement 也因此从一个很远的假设,逐渐进入现实讨论范围。

但在走到 RSI 之前,还有一个更基础的问题:投给 research process 的资源增加,能不能像增加 training compute 一样,稳定地换来 research progress?

这里需要先把一个概念进行拆解。Training compute 相对容易定义,可 research 里的投入并不是单一变量。Human researcher time 是一种资源,Agent inference budget 是一种资源,跑实验和训练模型的 compute 也是资源,evaluation budget、并发执行能力、实验基础设施同样都会影响最终的 research throughput。所以更准确地说,我们现在面对的不是一个已经定义好的「Research Compute」,而是一整组 Research Resources / Research Budget。其中机器侧的计算量当然可以继续叫 Research Compute,但它不是全部。

OpenAI 目前能测的是 agent runtime、agent-workdays、实验数量、代码量、任务复杂度这些 proxy,它们和真正的 Research Progress 之间是什么函数关系,目前还不知道。

从现有迹象看,AI 最先 scale 的也并不是某种抽象的「科研智慧」,而是科研过程中一直非常稀缺的探索的宽度

AI 最先改变的,是 research 的并发量

人类做 research 有一个非常物理的限制:很难真正并行。一个 researcher 可以同时想到很多问题,但真正把一个 hypothesis 写成代码、搭好实验、跑完、debug、分析结果,再决定下一步做什么,每一步都要时间。很多时候不是完全没有 idea,而是没有时间把所有 idea 认真验证一遍。

AI 介入 research process 之后,第一个被打开的缺口就在这里。今天已经可以看到研究人员同时运行更多 Agent,把更长的任务委托出去。再往前推一步,如果一个 researcher 可以稳定地同时启动几十个甚至更多 Agent,原来串行发生的研究过程就有机会被大规模展开——一个 Agent 去实现新的 architecture,一个补 evaluation,几个同时做 ablation,另一些排查实验异常;如果系统进一步具备更强的 hypothesis generation 和 planning 能力,还可能让不同 Agent 沿着不同假设各自展开。

原来的形态大致是 Idea → Experiment → Result → Next Idea;理论上的另一种形态可能变成:一个 Idea → 大量实验路径 → 筛选结果 → 展开下一轮更多路径。

这并不必然等于无方向的 brute force。模型本身带着大量知识和 prior,可以判断哪些路径更值得尝试,根据中间结果改变策略,也可以通过多个 Agent 之间的 critique 排除一些明显无效的路线。Google 等机构已经开始展示这类系统的早期形态:不同 Agent 生成、讨论、排序和迭代 hypotheses。但至少就 OpenAI 这次公布的数据而言,还不能说 massively parallel hypothesis search 已经真正实现。更准确地说,大规模并发的 research execution,正在为 massively parallel hypothesis search 打开可能性。

这个变化的潜力不能低估。因为过去我们归因于「intuition」的一部分研究成果,拆开之后可能并没有那么神秘——背后可能只是 search budget 不够。一个 researcher 一生能够认真验证的路线始终有限。某个方向试了十种方法都失败了,他可能只能暂时离开;但如果 AI 能以低得多的 marginal cost 尝试大量 variation,那么一些过去所谓「没人想到」的东西,最后可能只是「没人有时间试到那里」。

不过「没想到」其实包含两种完全不同的情况。第一种是:问题已经知道,只是 solution 没找到。第二种是:研究者甚至没有意识到,真正的问题并不在原来的地方。第一种非常适合靠 Research Width 去解决;第二种,才开始接近我理解的科研意义上的「神之一手」。

「神之一手」不只是多搜索了一万条路径

围棋里的「神之一手」让人印象深刻。真正值得讨论的,并不是机器比人多计算了几个 variation,而是它有没有可能进入人类既有经验原本赋予极低概率的区域。

放到 research 里也一样。如果所有人都在一个 benchmark 上做优化,AI 找到了一个没人尝试过的参数组合把成绩又提高 3%,当然也是 progress。但更有意思的情况是:所有人都认为某条路线不值得继续,它却判断这里仍然值得投入资源;所有人都把一个结果当成实验噪声,它却决定继续追这个 anomaly;或者两个几十年来被放在完全不同领域讨论的问题,它发现背后可能共享某种结构。再进一步,它甚至可能发现——我们为什么一直在优化这个 benchmark?这个问题是不是从一开始就 formulation 错了?

这里工作的性质已经开始变化。它不再只是「在给定 search space 里搜索更多」,而是在改变 search distribution:哪些区域值得投入更多资源,哪些路径应该优先,什么 evidence 足以让自己改变方向。更极端的时候,它甚至会重新定义 search space 本身。

所以我觉得,「神之一手」真正测试的并不是 AI 有没有足够大的 search budget,而是 AI 能不能形成、更新,并最终改善自己的 Research Prior

把 research process 看成搜索,那么 Width 决定的是「可以尝试多少」,Judgment 决定的是「先去哪里找」。这两件事的区别非常大,10000 个拥有高度相似 prior 的 Agent,看起来像 10000 个 researcher,实际完全可能只是在同一片区域里更加勤奋地搜索。Research Width 可以通过并发直接放大;Research Judgment 是否也能这样增长,就没有那么显然了。

一个 researcher 想了十分钟,可能实际上想了十年

如果 Judgment 决定的是「下一步先搜索哪里」,一个自然的问题是:这种 Research Prior 到底从哪里来?

对于人类 researcher,它很大程度上是长期 research trajectory 压缩出来的。一个资深 researcher 在组会里听完一个实验结果,可能沉默十分钟,然后说:「等等,我们是不是整个方向都搞反了?」表面上看这个判断只花了十分钟,但这十分钟背后可能有他十年前做失败的一个项目、五年前见过的类似现象、上个月刚读的一篇论文,还有跟另一个领域研究者的一次聊天。甚至可能包含一些当时看来完全没有用的东西——一本小说、一部电影、一次旅行,或者某件和当前 research 八竿子打不着的事情,都可能留下某种 abstraction。几年之后碰到另一个问题时,两个原本距离非常远的东西突然发生结构上的匹配。

这里很容易滑向一种浪漫化的说法:人类拥有生活,因此人类拥有 AI 永远无法获得的灵感。这个说法未必错,但可能没有讲到关键处。论文、书籍、历史材料,数学、物理、生物学知识,都可以通过 training、retrieval 和 tools 进入 AI 可以调用的 context——单看可访问的信息范围,说「AI 没有 research history」并不完全准确。至于这些能不能真的沉淀成灵感或直觉,是另一件事,目前也没有答案。所以更值得追问的,也许不是 AI 有没有历史,因为拥有历史,和被历史改变,是不是同一回事

Scientific Literature、Research Trajectory 和 Research Prior,不是一回事

这里我觉得至少需要区分三层。

第一层是 Scientific Literature。论文、书籍、公开实验结果,记录了整个学术共同体最终保留下来的知识。某种意义上这当然也是 research history。

第二层是 Research Trajectory。真正做过 research 的人都知道,最终论文和真实发生过的 research process 往往不是同一个东西。论文最后写出来可能非常漂亮:Hypothesis → Method → Experiment → Result → Conclusion。真实过程可能是——先做 A,失败;怀疑问题出在 B,于是改 B;结果发现数据有问题,重新做 A;偶然看到 C;突然意识到之前对 B 的理解可能错了;于是试 D,D 又失败;最后绕了很大一圈,才来到论文里那个看起来顺理成章的 E。

大量真实发生过的东西,在论文发表的时候已经消失了。失败但没有发表的路线、当时为什么放弃、哪个异常最开始被忽略、哪个结果改变了研究者对整个问题的理解、一个 idea 到底来自哪次偶然交流,这些都很难完整进入 scientific literature。

第三层是 Research Prior,或者更准确一点,Research Policy。你经历完这些事情以后:下一次面对一个新问题会先试什么?哪些结果会让你警觉?什么时候会认为继续优化已经没有意义?什么时候一个异常值得花三个月追下去?过去的 experience 有没有真正改变你今天分配 attention 和 search budget 的方式?

这才是最核心的区别。知道一条路线十年前失败过,和经历过一系列失败之后形成「这里可能有问题」的 intuition,并不是天然等价的。Research History 真正有价值的地方,不只是可以被 retrieval,而是它最终有没有变成:History → Updated Research Prior。

Memory 不等于 Experience,Experience 也不等于 Judgment

这也是讨论 AI researcher 时最容易跳过去的一步。

假设未来的 AI researcher 可以完整保存自己的 research trajectory:它做过 10000 次实验以后,可以保留远比单个 researcher 完整得多的记录——哪些路线失败过,当时为什么失败,哪些 intuition 后来证明经常判断错,哪些 anomaly 事后证明非常重要,哪些路线当时失败只是因为某个后来已经改变的条件,哪些看似完全无关的问题反复出现了相似结构。

再想象大量 AI researcher 同时工作。如果它们只是独立完成大量实验然后各自结束,本质上仍然只是把 Research Width 放大了很多倍。但如果这些 Agent 的失败、异常、路径选择、hypothesis change 都能进入一个共享系统,积累下来的东西就不一样了。人类科学共同体其实一直在尝试做类似的事情——论文、会议、组会、师徒传承,本质上都在把一个人的 research experience 传给另一个人;只是这个过程的 bandwidth 很低,而且会丢掉大量 tacit knowledge。AI 在理论上未必天然受同样的限制。

但这里不能直接得出:有了 shared memory,Judgment 就会 scale。因为 Memory ≠ Experience ≠ Judgment——把一万次失败实验存进数据库,并不会自动产生科研直觉。

真正关键的是:系统能不能把 trajectory 压缩成 policy。过去的实验发生以后,系统有没有能力判断究竟是什么造成了成功或失败?有没有能力从大量具体 experience 中抽取 abstraction?这些 abstraction 能不能真正改变以后搜索什么、先搜索哪里,以及什么时候应该重新 formulation 当前的问题?

粗略地说,中间至少存在这样一个过程:Experience → Credit Assignment → Abstraction → Prior Update → Future Research Behavior。至于最后依赖 retrieval、reflection、reinforcement learning、continual learning、meta-learning,还是某种今天还不存在的 architecture,目前并不知道。但这一步非常重要。

这样看,Research Width 和 Judgment Scaling 之间的关系就不再是「更多 Agent → 更聪明的 researcher」,而更可能是:更多并行 research → 更多 Research Trajectories → 更多可以学习的 experience → 如果系统能够从 experience 更新 Research Prior → 更好的 Judgment.

换句话说,Width Scaling 最重要的长期价值,也许不只是它让我们今天多跑一万个实验,而是它有可能制造出未来 Judgment Scaling 所需要的 experience

Research Scaling 的三层

这样再回头看 OpenAI 今天正在发生的事情,我会把 Research Scaling 粗略拆成三层。

第一层是 Scale Execution——让 AI 写更多代码、debug、搭实验、补 evaluation,把 researcher 从大量执行工作里释放出来。这一层已经非常明确地在发生。OpenAI 所谓的「automated research intern」基本可以放在这一层理解:在人类定义问题和指导方向的前提下,把越来越长、越来越复杂的 research task 委托出去。

第二层是 Scale Exploration——原本一个 researcher 一次只能认真验证少数路线,随着并发 Agent、自动实验和 hypothesis generation 能力继续发展,research process 有可能逐渐从串行变成更加 massively parallel 的 search。这一层已经出现了一些早期系统和迹象,但还远不能说已经成熟。

第三层是 Scale Judgment。过去的实验能不能真正改变下一次提出的问题?一次失败能不能让系统重新理解整个方向?一个三个月前不起眼的 anomaly,能不能在新的 evidence 出现之后被重新识别?来自其他领域的知识,能不能在没有人明确要求「请做跨领域类比」的时候,于恰当的时点改变当前 problem formulation?

这里的核心已经不是「一天可以跑多少实验」,而是——昨天发生过的那些实验,有没有改变今天的 search distribution

这一层目前还停留在非常早的探索甚至假设阶段。但如果它最终真的能够 scale,automated AI researcher 的性质会发生很大变化。它就不再只是「一个 researcher 带 100 个 AI 实习生」;每一轮 research 留下来的,也不再只是越来越大的 experiment log,而是一个不断被自身 research experience 改写的系统。这时候 Better AI → Better Research → Better AI 这个 feedback loop,才可能以完全不同的强度闭合。

所以,Research Scaling Law 来了吗?

现在还不能这么说。

今天我们已经比较确定地看到,用于 research 的机器计算、Agent runtime 和实验吞吐正在快速增加。Agent runtime 可以测,代码量可以测,实验数量可以测,任务成功率也可以测。但这些东西与真正的 Research Progress 之间到底是什么函数关系,仍然不知道。更多实验当然可能产生更多 discovery,也可能很快遇到 diminishing returns。10000 个 Agent 如果共享类似的 training distribution、类似的 prior 和类似的 benchmark,数量上看起来像一万个 researcher,实际探索的可能还是同一片区域。

而且和传统模型的 Scaling Law 不同,我们现在甚至还没有一个单一、明确的自变量。Human researcher time、Agent inference、实验 compute、evaluation budget 之间能不能相互替代?增加 10 倍 Agent inference budget 和增加 10 倍实验 compute,对最终 research progress 的 marginal return 是否一样?这些问题目前都没有答案。

以我目前的理解,现在至多只能说:Research Scaling 已经开始,但 Research Scaling Law 还远没有被验证。我们已经看到 AI 开始 scale research 的搜索量,还不知道它能不能 scale research 的搜索策略。

过去十年我们一直在研究如何 Scaling Intelligence——更多参数、更多数据、更多 compute,最终制造出了今天的大模型。现在一个新的循环开始出现:Intelligence 本身,正在参与制造下一代 Intelligence。

接下来几年,真正值得盯住的指标,可能不再只是「一个 AI researcher 一天可以跑多少实验」,而是——昨天跑过的那些实验,有没有改变它今天提出的问题

如果未来增加 Research Resources,不只是让 AI 尝试更多答案,而是让它越来越擅长判断什么问题值得问、哪些区域值得搜索、什么时候应该放弃旧的 formulation,那么 Research Scaling 才真正进入了一个完全不同的阶段。

到了那一天,「AI 能不能想出神之一手」也就不再只是一个关于机器创造力的哲学问题,而是一个可以被观察的问题:一个持续积累 experience 的 AI researcher,是否真的会形成越来越好的 Research Prior?以及某一天,它是否会看着所有人正在努力解决的问题,说:我们可能一直问错问题了


参考文献:

https://openai.com/index/research-acceleration-view-inside-openai/

https://openai.com/index/an-alien-mind/



【声明】内容源于网络
0
0
Research AI+
我们是一个开放的 Global青年研究者社区,汇集了AI及 AI4Science/Engineering 领域的青年学者、科研工作者、产业科学家/工程师和专业人士,野生而充满活力。
内容 31
粉丝 0
Research AI+ 我们是一个开放的 Global青年研究者社区,汇集了AI及 AI4Science/Engineering 领域的青年学者、科研工作者、产业科学家/工程师和专业人士,野生而充满活力。
总阅读637
粉丝0
内容31