大数跨境
0
0

NVIDIA 自动驾驶实验室:利用生成式 AI 增强自动驾驶仿真

NVIDIA 自动驾驶实验室:利用生成式 AI 增强自动驾驶仿真 紫光数码企业解决方案
2024-09-12
2
导读:NVIDIA 的三项关键技术实现全面和规模化的自动驾驶训练和评估。

仿真功能对于在实际使用之前确保自动驾驶系统的安全性至关重要。但创建能够准确描述罕见和潜在危险情况的逼真场景需要耗费大量人力物力。本期 NVIDIA 自动驾驶实验室视频展示了 NVIDIA 的三项关键技术,利用生成式 AI 创建逼真的道路环境、生成自然的驾驶行为,并支持对场景的灵活编辑,以实现全面和规模化的自动驾驶训练和评估。


点击观看最新一期的 NVIDIA 自动驾驶实验室视频



00:00:00

仿真对自动驾驶系统的安全性至关重要

00:00:45

使用 MapLLM 构建逼真的道路布局

00:01:19

使用 LCTGen 生成自然的驾驶行为

00:02:18

使用场景编辑器编辑结果

00:03:24

未来与 NVIDIA NIM 路线图的整合


MapLLM 是 NVIDIA 为自动驾驶开发的一个大语言模型,可以基于用户输入生成高精地图格式的驾驶场景。这种多样化驾驶场景的生成是通用自动驾驶仿真系统的第一个关键技术。


LCTGen(Language Conditioned Traffic Generation)是一个可以理解交通场景文本描述的 Transformer 语言模型,可以生成自然、逼真的车辆、行人以及其他交通参与者的行为,还可以根据已知的文本描述,预测交通参与者可能的位置以及它们在场景中的运动。


NVIDIA Omniverse 场景编辑器可以对已有的驾驶场景进行额外编辑和细微调整,通过简单的语言提示即可轻松修改虚拟场景,比如将白天变为黑夜,将晴天变为雨天,或向场景中添加新的交通参与者。这大大扩展了自动驾驶系统在开发期间可以接触到的真实设计运行范围(ODD)。通过利用 NVIDIA Blackwell GPU 架构强大的推理能力和新一代 Transformer 引擎,自动驾驶系统的反应能力和系统本身都将得到加速。


通过将构造道路环境的 MapLLM、生成逼真驾驶场景的 LCTGen,和基于大语言模型的 Omniverse 场景编辑器结合在一起,研究人员可以高效地利用生成式 AI 从数据源创建逼真场景来准确反映现实世界、并进行全面的自动驾驶评估和训练。


相关资料


LCTGen:语言驱动的交通场景生成

(Language Conditioned Traffic Generation)


本文提出了一种语言驱动的、由解释器和生成器两个主要模块构成的交通生成模型 LCTGen。由 LLM 驱动的解释器会将用户指定的任何自然语言查询转换成结构紧凑的表述,还能从现实世界的地图库中检索到与所描述的场景相匹配的合适地图。生成器则可以利用结构化表述和地图生成准确符合用户要求的现实交通场景。


论文链接:

https://ariostgx.github.io/lctgen/




RealGen:适用于可控交通场景的检索增强生成


受大语言模型中成功的检索增强生成方法的启发,本文提出了用于交通场景生成的基于检索的新型上下文学习框架 RealGen。RealGen 以无梯度的方式将多个检索示例中来自模板或标记场景的行为结合起来并合成新的场景。这种情境学习框架具有多种生成能力,包括编辑情景、合成各种行为和生成关键情景的能力。评估表明,RealGen 具有相当大的灵活性和可控性,标志着可控交通场景生成领域的一个新方向。


论文链接:

https://realgen.github.io/




面向自动驾驶汽车的 NVIDIA AI 工具




GTC 2024 会议:使用基础模型进行自动驾驶开发


演讲嘉宾:

Marco Pavone |NVIDIA 自动驾驶汽车研究总监


查看回放:

https://www.nvidia.com/en-us/on-demand/session/gtc24-s62855/



了解更多


  • NVIDIA 中国汽车团队招聘

    https://qr15.cn/ClR2ij

  • DRIVE Labs 视频合集

    https://www.nvidia.cn/self-driving-cars/drive-videos

  • 订阅 NVIDIA 自动驾驶电子邮件列表,获取前沿行业资讯

    https://www.nvidia.cn/industries/automotive/#automotive-subscribe-modal



GTC 2025 内容征集现已开放。点击“阅读原文”,或扫描下方海报二维码即可提交。2025 年 3 月,在圣何塞向全世界分享您的成就。

【声明】内容源于网络
0
0
紫光数码企业解决方案
第一时间获取紫光数码企业级解决方案、成功案例介绍,报名市场活动。
内容 283
粉丝 0
紫光数码企业解决方案 第一时间获取紫光数码企业级解决方案、成功案例介绍,报名市场活动。
总阅读464
粉丝0
内容283