英伟达首席执行官黄仁勋表示，该公司AI芯片的性能提升速度正在超越由摩尔定律设定的历史速率。摩尔定律是数十年来推动计算技术进步的准则。
“我们的系统进展速度远远快于摩尔定律，”黄仁勋在周二接受TechCrunch采访时说，当时正值他在拉斯维加斯CES大会上向万名观众发表主题演讲的第二天早上。
摩尔定律由英特尔联合创始人戈登·摩尔于1965年提出，预测计算机芯片上的晶体管数量大约每两年翻一番，从而使芯片性能大致翻倍。这一预测在很大程度上得到了验证，并在数十年来推动了能力的快速进步和成本的急剧下降。
近年来，摩尔定律的步伐有所放缓。然而，黄仁勋声称，英伟达的AI芯片正以自身加速的节奏发展；该公司表示，其最新的数据中心超级芯片在运行AI推理工作负载方面的速度比上一代产品快了30倍以上。
“我们可以同时构建架构、芯片、系统、库和算法，”黄仁勋说，“如果你这样做，你就能超越摩尔定律，因为你可以在整个技术栈上进行创新。”
英伟达CEO的这一大胆声明出现在许多人质疑AI进步是否已经停滞的时期。领先的AI实验室——如Google、OpenAI和Anthropic——使用英伟达的AI芯片来训练和运行其AI模型，这些芯片的进步可能会转化为AI模型能力的进一步进展。
这并非黄仁勋首次暗示英伟达正在超越摩尔定律。在11月的一次播客节目中，黄仁勋表示，AI世界正朝着“超摩尔定律”的速度发展。
黄仁勋否认AI进步正在放缓的说法。相反，他声称现在存在三个活跃的AI扩展定律：预训练（AI模型从大量数据中学习模式的初始训练阶段）、后训练（使用人类反馈等方法微调AI模型答案的阶段），以及测试时计算（发生在推理阶段，让AI模型在每次回答问题后有更多时间“思考”）。
“摩尔定律在计算历史上如此重要，因为它降低了计算成本，”黄仁勋告诉TechCrunch，“同样的事情也将发生在推理领域，我们将提高性能，因此推理的成本将会降低。”
英伟达的H100曾是科技公司训练AI模型的首选芯片，但随着科技公司更加关注推理，一些人开始质疑英伟达昂贵的芯片是否仍能保持领先地位。
如今，使用测试时计算的AI模型运行成本高昂。人们担心OpenAI的o3模型（使用了扩展版的测试时计算）对大多数人来说过于昂贵。例如，OpenAI在使用o3完成一项通用智能测试并取得人类水平分数时，每项任务花费了近20美元，而ChatGPT Plus订阅服务每月仅需20美元即可无限使用。
周一的主题演讲中，黄仁勋在台上像举盾牌一样展示英伟达最新的超算数据中心芯片GB200 NVL72。这款芯片运行AI推理工作负载的速度比英伟达此前最畅销的H100芯片快30到40倍。黄仁勋表示，这一性能飞跃意味着像OpenAI的o3这样在推理阶段需要大量计算资源的AI推理模型，其成本将随时间推移而降低。
黄仁勋表示，他总体上专注于打造性能更强的芯片，而从长远来看，性能更强的芯片会带来更低的价格。
“无论是从性能还是成本可负担性角度来看，应对测试时计算（test-time compute）的直接且立竿见影的方案，就是提升我们的计算能力。”黄仁勋对TechCrunch表示。他指出，从长远来看，AI推理模型可用于为AI模型的预训练和后训练生成更优质的数据。
过去一年里，我们确实见证了AI模型价格的暴跌，部分原因在于英伟达等硬件公司的计算技术突破。黄仁勋表示，他预计这一趋势将在AI推理模型中继续延续，尽管我们从OpenAI看到的早期版本价格相当高昂。
更广泛地说，黄仁勋声称，如今的AI芯片性能比10年前提升了1,000倍。这一速度远超摩尔定律设定的标准，而黄仁勋表示目前看不到这一趋势即将停止的迹象。