【引言】
长期以来,在人工智能领域,英伟达的GPU被视为绝对的核心。提及 AI 算力,人们首先想到的往往是更高性能、更多数量的 GPU。然而,最近被誉为“HBM之父”的韩国科学技术院(KAIST)金正号(Kim Jung-ho)教授提出了一项颇具前瞻性的观点:AI 竞争的真正主角正在从 GPU 转移到内存。
金教授的这一主张揭示了当前 AI 算力架构中一个被普遍忽视的瓶颈,并预示了未来芯片技术的发展方向。
【GPU 的“闲置”困境与内存瓶颈】
金教授指出,一个令人惊讶的事实是,即使是最先进、昂贵的 GPU,在实际执行 AI 运算的时间也仅占整个运行周期的 10% 左右。那么,剩下的 90% 时间里,GPU 在做什么?答案是:等待数据从内存传输过来。
金教授使用了一个非常生动的比喻来解释这一现象:即使拥有一位技艺极其精湛、速度极快的厨师(GPU),如果食材(数据)不能及时、足量地送到厨房,厨师也只能停下来无所事事地等待。
目前的瓶颈在于内存的传输速度跟不上 GPU 的处理速度。这意味着,未来 AI 性能的决定性因素将不再是“拥有多快的 GPU”,而是“拥有多快、多大容量的内存”。
【未来 AI 形态演进将推动内存需求爆发】
为什么这个观点在当下显得尤为重要?这与 AI 技术本身的进化方向密切相关。
目前的 AI 阶段主要集中在处理简单问答的聊天机器人。然而,AI 正迅速向更高级的形态演进:一是能够自主处理多个复杂步骤的 AI Agent;二是像机器人一样拥有物理实体、与现实世界互动的“具身智能”。
这些先进的 AI 系统需要持续记忆、处理和分析海量的数据,这对内存的容量和速度提出了前所未有的要求。基于这一发展趋势,金教授预测,未来的内存需求将呈现爆发式增长,甚至可能达到目前的 1,000 倍以上。核心逻辑在于:AI 越聪明、应用越广泛,其“推理”过程消耗的内存就越惊人。
【未来芯片架构:从 HBM 到“100层 3D 大楼”】
针对这一趋势,金教授描绘了未来 AI 芯片的蓝图。
目前,高带宽内存(HBM)是市场的绝对主力,但技术迭代不会停止。未来,HBF(High Bandwidth Flash)、HBS(High Bandwidth Storage)等新型内存将接踵而至。
金教授认为,芯片架构的终极形态将是一种垂直堆叠的“100层 3D 大楼”结构。数据不再需要在平面上传输(通过“横向”引线),而是直接在上下层之间(通过“纵向”通孔)进行极速交互,从而将数据传输速度提升至极限。
在这个“芯片大楼”中,内存将构筑成大楼的“主体结构(身体)”,占据绝大部分空间。而曾经作为“主角”的 GPU,将搬到这座大楼的“顶层”。
将 GPU 放在顶层的核心原因是为了散热。由于 GPU 是芯片中发热量最大的部分,将其置于最上层更利于将热量排出,从而维持芯片的整体稳定性。这一架构变化象征着一种颠覆:曾经处于从属地位的内存将成为核心基础,而 GPU 则是依附其上的功能层。
【结语】
金正号教授的观点为我们观察 AI 产业发展提供了一个全新的视角。随着 AI 技术不断深入和复杂化,内存瓶颈问题已无法回避。从“以 GPU 为中心”转向“以内存为中心”的芯片架构变革,不仅是技术的必然,更是未来 AI 性能能否实现质的飞跃的关键所在。对于相关产业链而言,把握住内存技术的演进脉络,或许就把握住了 AI 下半场竞争的关键。

