关于AI会不会自己加速自己，圈内的讨论已经进行了一整年。最近二十四小时里传出的一件事，把话题拉回到了更朴素的问题上：这些模型的防护，到底漏成了什么样。
在Interconnects播客第19期，主持人Nathan Lambert与Epoch AI高级研究员Jean-Stanislas Denain（下称JS）进行了一场辩论。JS在Epoch领导Insights团队，负责能力指数（ECI）等公共研究。
事情就发生在过去二十四小时里：三个人用公开可用的Claude模型入侵OpenAI，拿到了内部访问权限。Nathan在节目里说，这在他看来简直疯了——“我真心觉得意外，原来我们身处的就是这么一个漏水的世界。”
两人从这件事一路聊到递归自我改进（RSI）的证据有多硬、机器人的时间线、中美前沿模型的差距。聊到最后，两人都没有给出吓人的清单。JS更在意的是把威胁想清楚：谁最可能用AI干坏事，对他们来说是用开源模型更容易，还是越狱闭源模型更容易。
01
个到处漏水的世界
Nathan把这件事当成证据：《Stolen Thoughts》那篇论文说明，你能稳定地越狱API，把推理过程可靠地掏出来。“我预期模型会永久性地漏。只要你托管API，你就得假设你都能从那个模型里把能力提取出来，哪怕它有一点防护。”
JS则提醒反事实无法确定：干坏事的案例和海量的正常使用同时存在，这些证据同样兼容另一种解释——“在大多数情况下其实真的很难，只是那些人搞定了。”
两人在开源风险上分了两条路。Nathan不信“微调掉安全”这条，更信推理阶段的分类器能拦掉99%的人。JS认为微调的门槛确实高，但问题在别处：“基本上是没有防护的，推理服务商不像Anthropic那样在这上面使劲。”
Nathan说，事情这么模糊反而让他对近期感觉好一点——“网络安全这块，我觉得我们已经在里面了。”
JS对最大的那道防线倒是很干脆：“我觉得最大的防护其实就是，想干可怕事情的人没那么多。”
02
AI研究真能快10倍吗
Nathan一上来就追问：OpenAI和Anthropic都在说RSI快来了，他们内部到底看到了什么指标？
JS泼了盆冷水。两家的公开博客只能说明研究者从AI工具里获得了大量价值，远不足以证明半年内会来一场软件智能爆炸，Codex的数字甚至可能是“只统计了Codex”的测量假象。他自己接受了Evan Hubinger那个说法——十年尺度上至少10%的存在风险概率，但“我对它极其不确定”。
Nathan把话题推到“10倍”这个具体数字上：从有想法到做实验验证的循环会快10倍，但研究者的净生产力不会。“低年级博士生会变得十倍高产，但从导师的角度看，他的研究议程不会推进得快十倍。”
JS补了一刀：OpenAI那篇博客里，只有研究、数据和工程岗位一直在加速，而使用量上升的任务大多是工程和排障，高层的战略决策看不出明显提升。两人在这点上没有分歧：个体提速不等于公司整体提速。
03
机器人为什么不像大模型
聊到机器人，Nathan搬出了自己的老本行——他博士做的就是机器人和机器学习的交叉。他的判断是：机器人的曲线更像自动驾驶，而不是大语言模型。
“我觉得造东西本身就很难。”他举了亚马逊的例子：新建工厂已经按机器人优先来设计，但接下来你要先建一座造机器人的工厂，再让它去造工厂。而视觉-语言-动作模型（VLA）的进展没能说服他——多模态技术比文本模型原始得多。
JS先划掉一个时间点：“说清楚一点，两到五年确实太紧了。”他不信“建厂太慢”这一半：“‘别低估供给的弹性’，如果机器人真能替代蓝领，财务激励会大到离谱。”他更不确定的是能力本身：大模型到底给机器人能力贡献了多少。
Nathan最后收了一句：机器人会先在受约束的重复性环境里做得非常好，比如制造业；但要到机器人在街上走来走去、和人共处，还要长得多的时间。
04
算力少那么多，差距为什么只有6到8个月？
Nathan说这是少数几个他会逼JS给数字的问题。JS给的答案是：六到八个月，发布日对发布日。
Nathan摆出反例：Kimi K3和GLM 5.2看起来更接近两三个月，Artificial Analysis上Kimi一度甚至不到两个月。JS不接这个数：“要是两个月，我会说，不行，那有点过拟合的味道。”Epoch内部查过过拟合和数据污染能解释多少差距，统计上基本不显著。
真正的谜题是：中国实验室的资本少得多，算力更是差得远，能力却落后得远没有那么多。“那个滞后比资本上的差距要小得多，所以这需要一个解释。”JS说，四到八个月这个区间里，很大一部分不确定性来自你算滞后用的是哪种方法。
JS说他已经上调了对蒸馏作用的判断。“现在我说差距是六个月，六个月之后大概不会真的变成十二个月吧？”但Nathan更愿意把差距归到算力和竞争上——“跟上别人要容易太多了”。JS把这种机制概括成“四分钟一英里”效应，但他想不出一个“前沿做出重大创新、然后被跟随”的具体例子。
05
数据是最后一个黑箱
在聊到中美差距的解释时，Nathan提到他喜欢JS那篇讲中国招聘启事的文章——“那是个很聪明的办法，能偷看一眼中国AI业界的帘子后面是什么样。”这一节就来说说从那批招聘信息里能看出什么。
JS和Cheryl Wu合作做过这个分析。他强调这类证据的层级：它更适合产出轶事，而不是Epoch那种能跟着走的趋势线。
但小事实很有用。比如某地区在招数据中心岗位，说明至少有些实验室在自建数据中心；B2B销售岗位的图里，Z.ai（智谱）明显多于MiniMax和月之暗面；中国公司还大量招实习生，招聘页上专门分了“实习”和“常规”两个标签页。
Nathan最想知道的是数据市场的扩张，因为Anthropic出了名地有十亿美元级的预算。“我从很多人那儿听说中国的数据市场正在爆发，但他们说，是啊，但我电话上都找不到人能告诉我这具体表现成什么样。”JS的回答是：数据极难量化、极度保密，很多信息都是小道消息。在自建数据这件事上，xAI是唯一一家招聘页上真设了“人类数据”类别的公司。
原节目：Interconnects《Debating RSI, the US-China Gap, and Jaggedness with JS Denain of Epoch AI》