大数跨境

H-JEPA!LeCun世界模型创业交卷,代码权重全部开源

H-JEPA!LeCun世界模型创业交卷,代码权重全部开源 量子位
2026-10-10
9
导读:四年前在Meta时就开始酝酿

LeCun创立的世界模型初创公司AMI(Advanced Machine Intelligence)正式公布最新研究成果。在联合纽约大学、巴黎INRIA和布朗大学发布的论文中,团队推出了面向视觉规划的分层世界模型——H-JEPA。

H-JEPA通过逐层堆叠多个JEPA模块,使各层能在各自的表征空间中预测不同时间跨度的状态。在规划过程中,高层负责制定粗略计划并将预测的中间状态作为子目标传递给低层,低层则接力细化,最终生成可执行动作。这种分工机制使得世界模型既能兼顾长远目标规划,又能精准处理即时动作。

实验数据显示,在Visual AntMaze仿真迷宫任务中,三层H-JEPA的成功率达到73%,远超单层模型的18%。同时,分层模型在多项仿真任务中以更少的计算量实现了更优性能。

延续LeCun一贯的开源理念,团队同步公开了代码及预训练模型权重,方便研究者直接加载复现。

世界模型为何需要分层规划?

这一构想源于LeCun长期以来的研究主张。早在202年担任Meta首席AI科学家期间,他便提出分层JEPA概念,旨在让模型在不同抽象层级和时间尺度上进行预测,并通过分层规划将复杂目标转化为具体动作。

以从纽约前往巴黎为例:宏观规划关注目的地、航班和时间;微观执行则聚焦于离开办公室、下楼、打车等具体步骤;而在行走瞬间,注意力进一步细化至脚下台阶和迈步动作。不同层级对应不同的时间跨度与信息密度。

△ AI生成示意图

这种特性同样适用于机器人控制。高层需理解任务目标与环境关系,低层则掌控具体动作与身体细节。若缺乏分层机制,四足机器人可能因腿部姿态与目标画面的细微差异,误判自身与目标的距离。

核心挑战在于:如何让不同层级学习适配的信息表征,并将高层计划有效转化为低层动作?

H-JEPA的技术实现路径

H-JEPA在每一层配置了三个关键组件:

  • 状态编码器:提取当前环境表征。最低层直接读取图像,高层则基于下层表征进行抽象,保留该时间尺度下的关键信息。
  • 动作编码器:描述动作带来的变化。低层表示具体动作,高层将连续动作压缩为粗粒度变化。
  • 预测器:结合当前状态与动作预测未来状态。各层级覆盖不同时间跨度,实验中相邻高层的一步对应低层的两步预测。

模型采用端到端训练,不同层级通过子目标衔接。高层预测的中间状态成为低层的子目标,低层将预测状态转换至高层表征空间进行比较,并据此调整动作。

为解决世界模型训练中的表征坍塌问题(即编码器将所有输入压缩为同一向量导致信息丢失),H-JEPA沿用了LeCun团队在LeJEPA中提出的SIGReg技术,对表征分布进行约束。

H-JEPA以今年LeWorldModel采用的方法为底层,向上扩展更多JEPA层,形成共同训练、由上至下规划的结构。实验观察发现,在迷宫任务中,高层逐渐弱化腿部姿态等非关键信息,但仍保留机器人位置等核心要素。

值得注意的是,分层结构并非层数越多越好。在Push-T任务中,两层模型表现最佳,增加至三、四层后性能反而下降,原因可能是短任务轨迹限制了高层的训练数据获取。

LeCun的AI路线坚持

H-JEPA延续了JEPA(联合嵌入预测架构)的核心主张:在表征空间中完成预测。与传统LLM预测下一个token或视觉模型逐个生成像素不同,视觉JEPA先将图像编码为内部表征,再预测目标部分的表征。

LeCun坚信,理解世界、预测后果及规划能力是实现人类级智能的关键。在今年的ECCV会议上,他再次强调:“如果你对人类级AI感兴趣,就不要研究LLM。”尽管他承认LLM工具的价值,但认为其本身无法通向真正的人工智能。

这一理念也构成了AMI的创业基石。今年3月,AMI完成10.3亿美元融资,投前估值达35亿美元。公司由LeCun任董事长,Alexandre LeBrun任CEO,谢赛宁任首席科学家。目前,公司官网主要展示技术方向与团队信息,尚未推出面向公众的产品。

与此同时,李飞飞创办的World Labs已于9月28日与AMD达成约82亿美元的全股票收购协议。随着竞争对手取得里程碑式进展,LeCun及其团队在世界模型领域的成果落地备受业界期待。

【声明】内容源于网络
0
0
量子位
各类跨境出海行业相关资讯
内容 16521
粉丝 1
量子位 各类跨境出海行业相关资讯
总阅读480.4k
粉丝1
内容16.5k