链接我,来知识星球newtype
大模型已经能教你怎么收拾房间。但让一台机器人自己走进陌生房间,拿起杯子,绕过杂物,再稳稳放下,仍然经常失败。
前者处理的是信息。后者必须面对重量、摩擦、接触和不可逆的后果。信息处理已经能被大规模自动化,现实中的劳动还没有。
这就是英伟达所说的“物理AI”:让AI进入物理世界,让机器人、自动驾驶汽车等自主机器能够感知、理解并在其中执行任务。
物理AI被看作大模型之后的下一个大机会,甚至可能比大模型的发展空间还大。逻辑很简单:
当AI越来越擅长处理信息,下一步能否承担现实中的劳动?产业内几乎所有人都在想这个问题。
英伟达布局物理AI已久。Cosmos和Omniverse,是这项布局的两个重要入口。
机器人缺的,是经验
把一个大模型装进机器人,不等于它就能可靠地干活。
知道“杯子应该轻拿轻放”,不等于知道面对一个陌生杯子,应该从哪里抓、使用多大力量,以及滑落后如何调整。
机器人需要的不只是知识,还有“观察—行动—反馈”的经验。而要获取这些经验,比收集互联网文本麻烦得多。因为现实采集会有很多意想不到的障碍。
比如,真实机器需要一次次地执行动作,设备会磨损;采集还需要人员和场地,那些危险和罕见的情况也没法随意制造。
所以,依靠现实采集积累足够多样的数据,是物理AI开发的重要瓶颈。
既然现实环境难搞,那么,能不能在计算环境里实现?
这就是英伟达所押注的,一种新的经验生产方式:把现实中的一部分学习和试错,转移到可以重复、并行运行的计算环境里。
Omniverse与Cosmos,分别承担了其中不同的工作。
Omniverse:给机器人搭一个训练场
假设你正在开发一台仓库机器人。它需要穿过货架、避开障碍、识别货物。
如果每次修改算法,都必须把机器人放进真实仓库测试,开发速度就会受到现场条件的限制。
另一种方式,是先建立一个虚拟仓库,把机器人、货架、货物和传感器放进去,再设置物体属性、碰撞关系与运行条件,反复测试。
Omniverse提供的,就是构建这类环境的基础能力。
它不是一个单纯展示3D画面的软件,而是一组用于搭建仿真与数字孪生应用的库和服务。通过OpenUSD连接不同工具与3D资产,再结合渲染、物理和传感器仿真能力,开发者可以构建自己的实验环境。机器人领域的Isaac Sim,就建立在Omniverse之上。
这里最重要的,不是仓库画面有多漂亮,而是它能否成为一个可控、可重复的实验场:修改障碍物位置、调整传感器条件,再观察机器人的表现。
仿真的意义,是让一些昂贵、缓慢的现场试验,变成可以在计算机中反复执行的流程。
但问题还没有结束:一个虚拟仓库,如何覆盖现实中五花八门的情况?
Cosmos:把有限场景扩展成更多样的数据
同一个仓库,白天与夜间不同,新旧地面不同,货物包装、背景和光照也会变化。机器人只见过少数几种环境,即使在测试中表现不错,进入真实仓库后也可能失效。
Cosmos要解决的核心问题之一,就是如何扩展训练数据的规模和多样性。
它是一套面向物理AI的世界基础模型平台(World Foundation Models)。这些模型在大量真实机器人、自动驾驶和人类交互视频上训练,目标是生成符合物理规律的视频,而不是单纯的画面。
以Cosmos Transfer为例,开发者可以把仿真输出的深度、分割、边缘等控制信息作为条件,生成具有不同光照、材质和外观的视频,用来增强数据集。几何结构和运动轨迹保持不变,变化的是视觉表现。
仍以仓库为例:先在仿真环境里确定机器人与货架的布局和运动,再通过Cosmos扩展出不同照明、背景与外观条件下的数据。开发者不必为每一种视觉变化都重新采集一遍真实视频。
Cosmos并不只做数据增强。它的能力还包括对未来状态的预测,以及对场景的物理推理。
较新的Cosmos 3进一步把推理、世界生成和动作生成整合进同一个模型,支持从文本、图像、视频到动作的多种输入输出。开发者可以用它来生成稀有场景、做可控的世界模拟,或者作为后续策略模型的基础。模型以开放权重的形式提供,允许下游按自己的机器人或任务做后训练。
所以,Omniverse和Cosmos是这样配合的:
Omniverse及其之上的仿真工具,提供结构化场景和可控实验条件;
Cosmos则利用学习到的世界规律,帮助生成、扩展和理解数据,把有限的仿真结果变成更接近现实多样性的训练材料。
英伟达想做的,是整条开发流水线
将Omniverse和Cosmos放在一起,就能看到英伟达更大的意图。
先采集现实数据,再构建仿真环境;
扩展场景和训练数据,训练模型并测试;
随后部署到真实机器,把现实中的失败和新数据带回下一轮。
Omniverse与Cosmos强化的是其中的环境和数据环节。Isaac提供机器人开发与学习工具,GR00T提供机器人基础模型,DGX与Jetson等平台分别承担训练和机器端计算。这也是英伟达“训练—仿真—部署”架构的基本思路。
从商业角度看,这套布局意味着:英伟达不一定要亲自造出最成功的机器人,而是希望不同机器人公司的研发,都能使用它提供的计算与软件基础设施。
如果这条路线有效,更多原本依赖实体设备、人工采集和现场测试的工作,就能转化为服务器上的计算任务。
这才是英伟达的野望:不仅为已有需求提供芯片,还通过工具和开发流程,让更多产业活动能够被计算加速。
真正的关口,仍在现实世界
当然,虚拟世界不等于现实世界。
模拟器可能遗漏关键因素,生成模型可能产生不合理的结果。机器人也可能在模拟环境里表现很好,换到真实环境就失效。
因此,这套路线不能被理解为“有了仿真,就不需要真实数据”。更合理的方式,是让合成数据与现实采集相互补充,用真实测试不断校准开发流程。
至于它能否成为大机会,最终取决于一笔账:节省的采集、测试与开发成本,是否超过建模、计算和验证的投入。
判断Cosmos与Omniverse的价值,不是看虚拟画面有多逼真,而是看它们能否帮助真实机器,以更低的成本学会更多事情、少犯更多错误。
大模型让我们看到,信息处理可以被大规模自动化。而英伟达正在押注的下一步,是让机器获得现实能力的过程,也能被规模化加速。
#英伟达 #物理AI

