英伟达于周四推出了专为始终在线代理和边缘计算设计的新开源权重模型。
Nemotron 3.5 Super VL 是一个大型、拥有 1200 亿参数的模型,面向企业使用的代理。虽然它的参数量少于 Nemotron 3 Ultra 模型,但英伟达表示它在指令遵循和工具使用任务中能提供相似的准确率。
在频谱的另一端,该公司还推出了两款轻量级 Bolt 模型,旨在运行于搭载 Nvidia RTX Spark 芯片的新款 AI PC 以及运行 DGX Spark 的工作站上;这些面向消费者、程序员和企业知识工作者的 PC 正通过微软和戴尔等合作伙伴现正推向市场。
“任何希望在英伟达基础设施上运行智能体的组织,现在都可以获得为其层级量身定制的开放且经过优化的模型,而无需在能力和可部署性之间做出取舍,”英伟达开放模型与软件副总裁 Kari Briski 在宣布这些模型的博客文章中写道。
英伟达声称,在对特定代理任务进行后训练后,Super VL 完成任务的速度快于 Anthropic 和 OpenAI(Opus 5、GPT 6.1 Sol、Luna、Astra)的竞争对手模型。这些任务包括文档智能、财务会计、科学实验、医疗保险索赔以及安全攻击弹性。
尽管每当主要科技公司发布新模型时,此类声明都是标准操作,但英伟达通过列出它所称的使用 Super VL 的重磅公司名单来佐证这一点。其中包括 Skydance、EY、Ramp、Crowdstrike、Perplexity 和 Salesforce。
当然,这些并非英伟达发布的第一个与专有前沿实验室竞争(这些公司既是其客户也是其投资对象)的开源权重模型。这家 GPU 巨头拥有一个完整的 Nemotron 模型家族,涵盖从多模态人工智能到推理、编码、数学和企业自动化的各种功能。
然而,这些快速增长的专有 AI 实验室现在正转向 Nvidia 之外的许多其他芯片和 AI 系统制造商来满足其需求,例如 AWS 的 Trainium 和 Cerebras,以及构建自己的自研芯片。
因此,英伟达大力迎合企业公司希望在自有数据中心运行自有开源模型的趋势。“与封闭的前沿模型不同,组织可以在自己的数据上对 Super VL 进行后训练,在自有基础设施上部署它,并拥有他们所构建的内容,”Briski 写道。
但随着较小、本地 PC 模型的发布,它也在推动消费者 AI 助手这一新兴趋势。尽管初创公司和大型科技公司每天都在推出新的 AI 助手,但对隐私感到担忧的消费者可能不希望让这些代理如此深入地介入他们的生活,从而获取关于他们家庭、健康、财务等信息。
因此,虽然英伟达希望通过创建在其芯片支持下运行模型和代理的机器来为自己创造一个新的 PC 市场,但 Briski 写道,PC 用户“可以将日常项目委托出去……而无需将这些工作负载发送到云端”。
在两款 Bolt 模型中,Nemotron 3.5 Bolt 74B-A9B 24GB 是一个拥有 740 亿参数、专为本地代理任务设计的模型。它旨在平衡速度与推理能力,以处理多步推理、工具调用和网络浏览。最小的 Bolt E4B 则面向对话式代理。
Nvidia表示,Super VL和Bolt 74B-A9B现已上市,而Bolt E4B将于本月晚些时候推出。

