大数跨境

模型越大越笨?Meta 在绕障任务上栽的跟头,揭开具身智能的 Scaling 真相

模型越大越笨?Meta 在绕障任务上栽的跟头,揭开具身智能的 Scaling 真相 机器人产业应用
2026-11-09
5
导读:下一笔预算,是继续买算力训大模型,还是多采一批高质量的交互数据?


作者:陈钶  


在大语言模型领域,“规模定律(Scaling Law)”几乎成了研发团队手里的定心丸:只要算力预算管够、参数规模往上翻,工程师坐在屏幕前看着验证集上的损失函数曲线一路往下掉,心里大概就能算出下一代模型能聪明多少。可一旦把战场挪到物理世界的机器人操作台上,这套经验往往就没那么灵验了。

训练具身智能与机器人世界模型不仅烧算力,更消耗大量的人力与硬件折旧——研发团队砸下重金把模型参数从几千万扩充到几十亿,离线指标看着很好,可真把权重部署到机械臂上,夹爪该打滑还是打滑,遇上障碍物照样不知道绕弯。更棘手的是,为了验证某一次训练方案改得对不对,工程师总不能每调完一版参数就把真机搬出来、在桌面上重新摆好杯子连测几百个回合,再一遍遍收拾打翻的残局。

能不能在烧掉下一笔巨额算力预算、甚至在动用真实机械臂之前,先给机器人的“脑补能力”算出一笔可预测的明白账?10月7日,来自Meta FAIR、Chandar Research Lab与Mila等机构的研究团队在arXiv上公开了最新研究成果RoboJEPA。

在这项工作中,研究者将动作条件世界模型(Action-Conditioned World Model)的预测器一路扩增至80亿(8B)参数,尝试用一套离线计算的“想象误差”,提前估算更大规模模型的预测质量,并进一步追踪这种离线指标的改善能否实打实地转化为机械臂的在线规划能力。
  

RoboJEPA架构与规模定律外推总览:基于多本体真实机器人数据训练潜空间预测器,并通过离线“想象误差”提前估算大模型表现


01

先估一估,下一笔算力花得值不值


不妨先看一个实验室里再熟悉不过的场景:让一台机械臂把水杯从桌子这头挪到那头。如果只抽查摄像头拍下的某几个瞬间,动作可能相当标准——机械臂顺利伸了过去,夹爪精准合拢,水杯也稳稳离开了桌面。可只要机械臂在半路突然松手,前面所有的标准动作都会瞬间前功尽弃,整段操作只能推倒重来。对于必须在物理世界里干活的机器人而言,“眼前这一步看着像不像正确动作”与“接下来好几步能不能把整件事彻底做完”,中间其实隔着一道不小的鸿沟。

世界模型想填上这道鸿沟:与其让机器人走一步看一步,不如让它在真正动手之前,先预测几种动作各自会带来什么结果。思路听起来很顺畅,但研发人员很快就会撞上另一堵墙——当团队试图把世界模型越训越大时,到底怎么判断模型是真的变聪明了?

RoboJEPA切入的正是这个让工程团队头疼的研发痛点。研究团队不仅把世界模型预测器的规模推高到了80亿参数,更重要的是探索了一套“先离线估分、再验证规划”的评估链路:先通过离线轨迹上的预测误差,提前算准更大规模模型能够达到的预测质量,随后再去核对这种预测准确度的提升能否顺畅地传递到下游的机械臂规划任务中。这项工作给机器人研发带来的吸引力非常直接——在拍板花掉下一笔昂贵的训练预算之前,团队手头终于有望多出一份可量化的参考依据。

Franka抬起任务的目标画面


02

把未来预测出来,不必先画成高清视频


拆解RoboJEPA的名字,核心在于“JEPA”,即“联合嵌入预测架构”。这个学术名词听起来有些拗口,但顺着前面拿水杯的动作就很容易理解:当相机拍下桌面上水杯的画面后,视觉编码器会先把这张图像压缩转换成一组高维数学特征;随后,预测器结合机器人当前的关节状态以及准备执行的候选动作,直接估算下一时刻这组图像特征会发生怎样的变化。在整个推演过程中,模型完全不需要像视频生成模型那样,先把未来每一帧的桌面纹理、光影变化甚至背景噪点都一五一十地画成人类肉眼能看的视频。

这些抽象特征所处的数学空间,就是研究者常说的“潜空间”。“潜空间”能否保留杯子位置、夹爪状态等操作所需信息,是这条路线能否奏效的前提。

有了这套潜空间预测器,机器人究竟怎么用它来指导动作?研究者给它一张目标照片,例如杯子已经摆到指定位置。系统生成多组候选动作,分别推演结果,挑出预测终点更接近目标的一组,先执行其中一段,再根据新画面重新规划。于是,机器人就有机会在动作落地之前,比较不同选择的后果。

RoboJEPA的两种训练方式


训练过程也特意把两种练习搭配在了一起:模型既要练习根据真实的过去画面预测下一步,更要练习顺着自己前一步的预测结果继续往后“盲推”。后一种练习尤为关键,因为在真实的在线规划中,未来的画面还没有发生,模型必须学会承受并消化自己前几步预测偏差所带来的累积影响。

相比于直接生成未来画面的视频世界模型,以及此前Dreamer与早期JEPA系列工作的探索,RoboJEPA把问题往深处推了一步:当这类潜空间预测器成倍扩大规模之后,它的能力进步究竟能不能呈现出可外推的数学规律?


03

先给“想象”打分,再提前算出大模型的表现


给“想象”打分,需要一份能够对照的答案。研究者从已有机器人轨迹中取出起始观测,把记录下来的动作交给模型,让它在潜空间里连续往后推演9步,再拿预测特征与真实后续画面的特征比较。计算这9步推演的平均绝对偏差。论文将这一指标定义为“想象误差(Imagination Error)”。

通俗来讲:其实就是拿一份已经发生过的真实录像当“标准答案”,沿着完全相同的动作指令往前走,模型预计会发生的状态变化,与真实物理世界记录下来的结果到底差了多少?算出来的平均值越小,说明模型对动作后果的连续推演就越靠谱。

拿到这把标尺后,研究团队做了一件验证价值的实验:用2200万至20亿参数的模型拟合曲线,把40亿和80亿参数模型留出来,检查能不能提前算准它们的误差。

通俗来讲:训练算力越多,想象误差会下降,但不是直线下降,而是一条弯着下降的曲线。

计算量与预测误差的关系


04

300M反超1B:光堆参数为什么会在绕障上栽跟头?


看到离线误差曲线如此丝滑地往下走,人们很容易产生一种顺理成章的乐观:接下来只要继续往里砸显卡、扩参数,机器人的实际操作能力自然就会水涨船高。

然而,论文里偏偏记录了一段颇为曲折的踩坑经历——在早期的绕障规划任务测试中,研究团队沿用较短的连续推演步数(仅2步)进行训练时,下游任务的表现根本没有出现预想中的规模增长趋势,甚至出现了300M(3亿)参数的小模型在绕障表现上反超1B(10亿)参数大模型的倒挂现象。

参数规模足足大了三倍多,为什么面对桌面上挡路的障碍物反而更笨了?原因其实就藏在“绕障”这个动作本身的几何逻辑里。机械臂要想避开眼前的障碍物去抓后面的目标,往往需要先主动偏离目标方向往侧面绕出去,等跨过障碍后再折返回来。

如果模型在训练阶段主要只练习往后看2步,而到了实际规划时,规划器却要求它一口气比较更长周期的动作序列,那么短视训练留下的预测误差就会在多步反复推演中迅速滚雪球般放大。此时,1B大模型哪怕把紧接着的下一步猜得再精细,一旦推演链条拉长,它依然看不清“先退后进”的完整绕障路线。

找到症结之后,研究团队在训练末期对方案动了刀:一方面将连续推演的训练长度从2步直接拉长到10步,另一方面同步调高了输入图像的分辨率。经过这番调整,RoboCasa仿真环境中的长程绕障规划最终奖励,才终于随着训练计算量的增加展现出了清晰的上升趋势。

延长推演训练后的绕障表现


在长推演训练的设置下,RoboCasa绕障任务的最终奖励随训练计算量变化。


05

真机上的27%,给漂亮的规模曲线称一称重


当模型走出离线测试与仿真环境,站到真实的Franka桌面机械臂旁,前面所有的数学曲线都要接受物理世界的当面检验。在Franka实验中,8B模型的抓取成功率为67%,把物体抬起并保持到回合结束为50%,取放到目标位置为27%。

更耐人寻味的是,附录里的2B模型取放成功率为31%,还高于8B的27%。较大模型在部分任务上表现更好,但逐项结果并不单调。每个RoboJEPA模型、每种任务测试30回合,这样的规模足以展示能力,但是还需要更多重复实验来判断小幅的差距。
   

不同模型规模下的真机成功率


06

走出论文之前,产业落地还得算清四笔工程账


如果站在机器人创业公司或工业研发团队的视角,想把RoboJEPA这套方法论真正搬进自家的开发流水线,首先得问清楚第一笔账:离线想象误差到底能帮团队省掉多少真机评测工作?它有望帮助团队从许多候选模型中先筛掉一批,减少反复上机的成本。

第二笔账关乎跨平台扩展:训练了12种机器人之后,接入第13种新本体有多麻烦? 在架构设计上,RoboJEPA的做法是为不同构型的机器人分别配置专属的动作与状态输入投影层(Projection Head),先把五花八门的关节维度对齐,再统一送入共享的核心预测器。它并没有从物理底层抹平不同机器人在运动学结构、动作空间定义以及底层控制接口上的固有差异。如果有新的机器人需要接入时,适配工作仍然存在。

第三笔账直接落在了具身智能数据供应商的头上:既然现有固定数据集已经快被榨干了,接下来到底该花钱去采什么数据? 固定语料已经显出饱和迹象,在桌面上反复录制四平八稳的正常抓取视频,边际性价比也已经越来越低。

第四笔账则卡在最现实的工业生产节拍上:让机器人动脑子“想一遍”,现场到底得等它多久? 论文中的8B规划即使用上多GPU并行与缓存,仍需要数秒,无法达到实时控制。在讲究节拍的生产工位上,机械臂每做一个动作前都先愣神好几秒,产线效率显然吃不消。

同一段AgiBot操作的画面对照


07

世界模型开始需要一张更完整的工程账单


把上述四个问题串联起来,恰好勾勒出了一套更具操作性的具身智能研发流程:团队可以先用低成本的离线轨迹评估模型预测质量、摸清算力扩展的性价比边界,接着利用高并发的仿真环境扩大长程任务覆盖面,最后再把宝贵的真机测试资源集中投放到优胜候选模型与高风险的边缘工况上。

这套流程的核心价值,在于让原本带有不少盲目性的研发预算变得更容易分配;至于末端接触时的力控精度、突发碰撞的安全保护以及连续数小时运转的长期稳定性,依然只能留给真机现场去做最终验收。

回看整项研究,RoboJEPA真   正向前推进的一步,是让以往高度依赖经验直觉的世界模型研发,多出了一套可以事前估算、事后核对的算力预算依据。

而留给行业接下来继续跟踪的悬念同样具体:当这条下降曲线换到全新的真实场景数据、接入更多自由度的复杂机器人本体之后还能不能继续成立?离线想象误差每往下压低一点,究竟能在真机上换回多少个百分点的取放成功率,又需要为此付出多少秒的规划等待时间?只有把这几笔相互牵制的工程细账放到同一张桌面上算清楚,机器人研发团队在做下一轮决策时才会有真正的底气:手里的下一笔预算,到底是该继续拿去买算力训大模型,还是先派人去真实场景里多采一批高质量的交互数据。

连界创新



推荐阅读



产业应用场景



·出海!中国具身智能企业在全球市场大“杀”四方!

·比人形更快进入家庭?具身智能宠物机器人迎爆发!

·文娱巨星!人形机器人“表演大乱斗”,谁赢了?

·商业导览成具身智能商业化破局点?

·巡检机器人之困,场景刚需,但这一问题亟待解决



机器人本体企业



·仿生机器人=伴侣机器人?一文为仿生机器人正名!

·乐聚Taskor,为人形机器人规模化进厂按下“快进键”

·具身智能争霸赛打响!四大核心区都有哪些“扛把子”?

·CES 2026|星动纪元携人形机器人家族亮相

·智元CES放大招!开源Genie Sim 3.0强的可怕!



供应链动态



·零部件企业跨界突围!这些企业上大分!

·夺取物理世界的入场券:具身智能操作系统拆解

·人形机器人关节生死局:执行器路线之争与技术博弈

·灵巧手赛道“激战”,新老玩家各执什么王牌?
·开源数据集图鉴!这份具身智能“军火库”请查收

【声明】内容源于网络
0
0
机器人产业应用
由连界创新具身智能中心发起,以场景应用为导向,专注具身领域科技与产业的链接。我们将围绕投资+服务双轮驱动,为科技增长赋能。业务涵盖垂直行业峰会/沙龙、私董会、标杆走访,具身智能行业研究报告与咨询,产业生态系统搭建等。
内容 617
粉丝 0
机器人产业应用 由连界创新具身智能中心发起,以场景应用为导向,专注具身领域科技与产业的链接。我们将围绕投资+服务双轮驱动,为科技增长赋能。业务涵盖垂直行业峰会/沙龙、私董会、标杆走访,具身智能行业研究报告与咨询,产业生态系统搭建等。
总阅读9.6k
粉丝0
内容617