英伟达黄仁勋：预计数据中心每年的市场机会价值2500亿美元

近日，在英伟达2024 GTC 期间，英伟达创始人兼CEO黄仁勋自信地放出豪言，英伟达会在一年可“掘金”几千亿美元的数据中心市场抢到更多的“蛋糕”。

黄仁勋表示，因为英伟达生产的芯片和软件种类繁多，所以公司处于有利地位，在全球数据中心设备的支出中，会有一大部分都来自英伟达的产品。

黄仁勋预计，每年全球对数据中心设备投入的费用将共计2500亿美元，英伟达产品在其中占据的份额将超过其他芯片生产商。英伟达正致力于开发软件，以便各行各业采用和使用AI技术。英伟达提供AI模型和其他软件，然后根据客户的算力和运行的芯片数量向客户收费。

黄仁勋说，“以我的预期，这（数据中心）将是一块非常大的业务。”

本周一，英伟达刚刚发布了号称全球最强大AI芯片的Blackwell架构GPU，该架构的首款GPU B200将成本和能耗较前代H100改善25倍，推理能力提升高达30倍。它拥有第二代Transformer引擎，可提供高达20 petaflops的FP4算力，浮点运算速度是H100 4 petaflops的五倍。

将两个B200 GPU与单个Grace CPU 结合在一起的超级芯片GB200，可为LLM推理工作负载提供30倍的性能，并且显著提高效率。在拥有1750亿参数的GPT-3大模型基准测试中，GB200芯片性能是H100的7倍，训练速度是H100的4倍。业内惊呼新的摩尔定律诞生。网上评论称，Blackwell标志着在短短八年内，英伟达AI 芯片的计算能力实现了提升1000倍的历史性成就。

在周一GTC大会上的主题演讲中，黄仁勋将Blackwell和英伟达专为数据中心设计的上一代芯片架构Hopper做了对比。他说，如果要训练一个1.8万亿参数GPT模型，大约需要三到五个月的时间：

如果用Hopper（架构）来做，可能需要8000个GPU，并且会消耗15兆瓦（电力）。8000个GPU和15兆瓦，它会需要90天，大约三个月的时间。

如果你用Blackwell（架构）来做，只需要2000个GPU。2000个GPU，同样的90天。但这是惊人的部分，只需要四兆瓦的电力。

黄仁勋透露，包括亚马逊云AWS、谷歌、微软、甲骨文等，都在为支持Blackwell做准备。同时英伟达将持续基于AI强化生态，比如英伟达NOmniverse Cloud将可以连接到苹果公司混合头显Vision Pro、加强模型与通用机器人生态等。