大数跨境

海外 AI 大佬集体盯上 PixVerse R2!实时世界模型凭什么「又快又强」?

海外 AI 大佬集体盯上 PixVerse R2!实时世界模型凭什么「又快又强」? AI信息Gap
2026-10-20
2
导读:用 WASD 走进一个一直在运行的世界。

「这不是给文生视频模型装个控制模块那么简单。」

在通用实时世界模型 PixVerse R2 发布之际,旧金山机器人与世界模型读书会主理人 Junfan Zhu 指出其与传统文生视频模型的本质区别:音频、视频和动作需在同一个因果世界循环中实时生成,且在用户介入后能保持状态连续性。

图源:X @junfanzhu98

可交互的实时世界:从观看进入体验

9 月 22 日,PixVerse R2 正式发布。该模型构建了一个可持续运行的实时世界,用户可通过 WASD 键移动视角,并通过提示词实时改变场景中的事物,这些变化将延续并影响后续剧情发展。

Scale AI 高级产品工程师 gabrycina 体验后表示,输入指令如“一条龙出现并开始战斗”后,场景状态会实时更新,效果令人惊艳。

图源:X @gabrycina

PixVerse 官方提出的核心议题是“实时世界模型能否持续扩展”。与传统观点认为实时适合小模型、通用适合大模型不同,PixVerse 采用双核心引擎策略,将能力与效率解耦。

业界专家关注的重点并非单纯的画质,而是以下三个技术指标:

  • 模型延迟:用户操作后画面的响应速度;
  • 能力保留:实时化改造后原始性能的留存比例;
  • 运行稳定性:长时间连续运行下画面是否变形或崩溃。

极低延迟:重构生成逻辑

开源推理框架 SGLang参与开发者 Chenyang Zhao 指出,实时世界模型对推理延迟的要求极高,无法像传统视频生成那样依靠加载圈隐藏等待时间。

图源:X @GenAI_is_real

SGLang Omni 核心开发者 Yichi Zhang 也认为,流式延迟和实时优化是该模型带来的主要挑战。传统视频生成类似“录播”,可全局参考帧信息;而实时世界模型类似“直播”,需基于已有画面和即时操作快速生成后续片段。

为解决延迟问题,PixVerse R2 采取了两项关键设计:

  1. 动态切片处理:针对 WASD 等按键操作生成短片段以确保反应精准,针对提示词描述的完整事件生成长片段以保证叙事连贯。
  2. 稀疏注意力机制:仅精确计算画面中关系紧密的部分,稀疏度超过 90%,在几乎无损的前提下大幅降低算力需求,从而提升分辨率并延长运行时间。

Video-LLaVA 作者之一 Jiaxi Cui 实测单板滑雪场景后确认,通过 WASD 和空格键控制可实现即时响应,延迟在可接受范围内。

图源:X @Jiaxi_Cui

能力保留:减少“蒸馏税”

Junfan Zhu 将模型蒸馏过程中的性能损耗比喻为“能力税”。传统流程需经过多轮蒸馏、误差修补和压缩,导致画质、动作及稳定性逐层递减。

图源:X @junfanzhu98

PixVerse R2 简化了这一流程,仅保留两个核心步骤:

  • 训练可同时处理多模态输入的主干模型 Omni Causal AR,深度强化基础能力;
  • 直接将该主干模型加速为实时模型,避免多层蒸馏带来的性能折损。

这种“师傅直带徒弟”的模式旨在消除专门的误差修补环节,使实时模型在继承主干模型能力的同时,具备随规模扩大而增强的潜力。

长期稳定性:对抗“滚雪球”效应

World Labs 空间重建研究员 Chongjie Ye 指出,PixVerse R2 在长时间运行中表现出更高的稳定性,抖动和世界突变现象显著减少。

图源:X @ychngji6

传统向前生成模式易因早期微小错误累积导致画面崩坏。PixVerse R2 通过三种策略解决此问题:

  1. 训练时引入含噪声的历史画面,增强模型对偏差的容忍度;
  2. 分离保存长期设定(角色、场景规则)与短期动作,防止核心要素突变;
  3. 建立“错题本”,将历史错误画面重新纳入训练以修正模型。

数据显示,该技术使长时间运行的亮度漂移指标从 0.201 降至 0.129,静止场景下的异常动态明显减少。尽管前 Hugging Face 亚太生态负责人 Wang Tiezhen 指出算力限制仍影响体验时长,但行业对其实时负载优化前景持乐观态度。

图源:X @Xianbao_QIAN

应用前景:从演示走向技术路线

西湖大学助理教授 Yuliang Xiu 认为,实时性让世界模型名副其实。PixVerse R2 引擎使得手机扫描、智能眼镜拍摄等实时输入数据得以充分利用,例如实现即时的虚拟试衣功能。

图源:X @yuliangxiu

gabrycina 指出,支持 WASD 移动的生成世界开辟了巨大的产品空间,其意义堪比将大模型嵌入聊天界面。用户不再是旁观者,而是可以通过操控角色和调整镜头,实时干预故事走向。随着算力成本下降,为宠物或角色构建可交互、可修改剧情的个人小世界将成为可能。

【声明】内容源于网络
0
0
AI信息Gap
各类跨境出海行业相关资讯
内容 1141
粉丝 0
AI信息Gap 各类跨境出海行业相关资讯
总阅读145.3k
粉丝0
内容1.1k