在本周之前,关于英伟达的主流叙事大致如下:在人工智能繁荣的最初几年里,英伟达是先进GPU的唯一来源,随着行业的扩张,这些GPU带来了巨额利润。而在过去几年中,亚马逊和谷歌等超大规模云厂商开始自行研发芯片,英伟达不再是市场上唯一的玩家,这导致许多投资者质疑其优势是否真的具有持久性。
这是一个引人入胜且基本属实的故事。在2023年初至2025年中期间,英伟达的市值增长了10倍,但在过去一年里,由于对GPU竞争的担忧,其股价走势变得更为温和。
自该公司周三公布财报以来,一种新的叙事已经形成,投资者开始意识到英伟达的优势远不止于GPU。随着人工智能的计算规模迈向吉瓦级,系统编排已成为一项日益复杂的任务。毫不意外的是,英伟达构建了处理这一需求所需的大部分尖端硬件,使其在围绕GPU的系统层面拥有巨大优势,尽管GPU本身面临的竞争正在加剧。
尽管人们常说计算是一种商品,但要在峰值效率下运营超大规模数据中心仍然极其困难——而且随着部署规模越来越大、速度越来越快,这一挑战也在不断加剧。
逐机架分析
只需查看英伟达实际销售产品的细节,你就能略见一斑。该公司目前正在推出Vera Rubin架构,该架构将Rubin GPU与一系列其他单元配对,包括Vera CPU、Groq 3 LPX推理加速器,以及用于存储和网络类似的机架。
在过去的一周里,我与英伟达的一些人员探讨了这些系统的实际功能,结果令人惊讶。与Rubin GPU一样,它们也是高度专业化的系统,但它们并非用于快速处理令牌(tokens),而是确保GPU外部的所有组件都能以最高效率运行。如果GPU是引擎,那么这些就是汽车的其余部分。
特别是Vera CPU,它专注于解决数据编排的问题。“Vera之所以重要,是因为你能放入单个服务器或任何计算平台中的内存是有限的,”英伟达存储技术副总裁Jason Hardy告诉我。
随着数据中心计算能力的提升,内存容量也随之扩大,这就是为什么像美光这样的公司在基础设施繁荣的第二波浪潮中变得富有。然而,将数据及时送达GPU并非易事——随着公司致力于不断降低每瓦特处理的令牌数,他们逐渐意识到这种流量调度有多么重要。
Hardy说:“我们在这些操作中看到了高达3倍的改进,因为Vera CPU实现了加速。因此,我们现在可以充分发挥闪存的全部潜力,因为我们能够从中提取所有性能,而不会造成瓶颈。”
你可以在英伟达之外看到同一问题的不同版本。当OpenAI开发其Jalapeño芯片时,一个主要重点是通过最小化需要移动的数据量来完全避免这些挑战。
该公司在博客文章中称:“我们设计Jalapeño是为了最大限度地减少数据移动和通信延迟。”本月早些时候,“其庞大的域允许整个工作负载保持在一个连接的系统内,从而最大限度地减少数据移动,并帮助整个请求从头到尾保持快速高效。”
这是一种不同的方法,通过在单个集成芯片内进行工作负载来完全避免数据移动。但整体逻辑是相同的,即通过更智能的交通控制来提高效率,而不仅仅是增加处理器周期。这反过来为公司开辟了一个全新的基础设施竞争层面。
这种对数据编排的新关注并不自动意味着对英伟达有利。该公司将不得不与竞争对手的芯片制造商和超大规模企业竞争,就像它在GPU领域所做的那样。但竞争已经转移到一个新的层面,在那里构建 rival GPU的重要性不如使整个系统高效运作的能力。
至少在早期阶段,英伟达看起来拥有明显的领先优势。

