·聚焦：人工智能、芯片等行业
欢迎各位客官关注、转发
手机中低功耗的内存技术，正被高通重构为 3D 堆叠架构，并将加速器置于其下。
近日，HBC（High-Bandwidth Compute）架构正式亮相，直指 HBM 长期占据的 AI 内存主导地位。
「有效」带宽才是核心指标
高通在投资者日正式发布 High Bandwidth Compute（高带宽计算，简称 HBC）。名称强调"Compute"而非"Memory"，表明其并非单一内存产品，而是一套融合内存与计算逻辑的全新架构。
高通公开的结构图显示：多层 LPDDR 通过 TSV 硅通孔堆叠在 HBC 加速器之上，HBC 模块与主 SoC 并排置于 2D 有机基板上。内存密集型任务由 HBC 就近处理，主 SoC 则专注于复杂且需统一调度的计算。
搭载 HBC Gen 1 的 Dragonfly AI250 设计指标为：单卡内存 768GB，有效带宽 133TB/s；由 56 张卡组成的机架拥有 43TB 内存和 7.455PB/s 有效带宽，机架热设计功耗为 140kW。
相比采用 LPDDR5X 的 AI200，AI250 容量未变，但有效带宽提升了 18 倍。HBC Gen 1 商业样片预计于 2027 年年中问世。
将算力置于内存之下
HBM 通过 TSV 垂直堆叠 DRAM 并利用 CoWoS 先进封装贴近计算芯片，虽缩短了距离，但硅中介层、封装产能及良率损耗导致成本高昂。
高通采取分离式设计：主 SoC 与内存独立，通过标准 2D 有机基板互连，摒弃了昂贵的硅中介层和 CoWoS 工艺。
其创新在于内存侧：专用近内存加速器垫在 LPDDR 堆栈下方，计算与存储经 TSV 垂直直连，数据传输距离大幅缩短。
高通数据中心业务负责人 Tony Pialis 表示，将 XPU 直接置于 DRAM 堆栈下方，可兼得 SRAM 级的速度与堆叠内存的高密度。
数据显示，搭载第一代 HBC 的 AI250 单卡内存带宽达 133TB/s，是 LPDDR5X 版 AI200 的 18 倍，支持最高 768GB 堆叠容量。在卡级归一化对比中，其单位功耗带宽是 HBM 的 6 倍，单位功耗容量是 SRAM 的 200 倍。
第二代 HBC 将随 AI300 于 2028 年落地，有效带宽较 AI200 提升 54 倍，每瓦带宽较 HBM 高出 7 倍。
选择 LPDDR 源于其超低功耗与优于 HBM 的成本曲线。其单堆容量上限高、3D 堆叠友好，是大容量推理的理想选择。
LPDDR 已从手机渗透至 AI 推理加速卡（如高通 AI200），HBC 则将这种渗透升级为系统性方案。
HBM4 也在尝试将逻辑芯片融入堆栈底层，但高通更为彻底，直接将加速器地基打在内存楼下。
近存计算并非新概念，美光曾推出 Hybrid Memory Cube，三星发布过 HBM-PIM。HBC 的优势在于时机与定位，它将近存计算、LPDDR、长上下文推理与整机架部署紧密结合，目标负载更为清晰。
推理解码为 LPDDR 开启新机遇
大模型训练侧重矩阵运算，而在线推理的解码阶段需频繁读取权重与 KV 缓存，常受限于内存带宽。
研究显示，典型大模型推理中，解码阶段算子多落入内存受限区间。智能体应用加剧了这一矛盾，生成每个 Token 均需搬运大量数据，单纯增加计算单元无异于“添灶无粮”。
AI250 专为解码、推理链和智能体负载设计，单卡 768GB 容量有助于减少上下文换出，支持上下文长度从 128K 提升至 100 万 Token。
评价标准已从峰值 FLOPS 转向每瓦 Token 数与每美元 Token 数，综合考量容量、带宽与功耗。
LPDDR 已跨越手机边界，NVIDIA Vera CPU 亦采用 LPDDR5X，用于 KV 缓存卸载和多模型运行。HBC 的增量价值在于将计算逻辑置于 LPDDR 堆栈旁，而非简单移植移动内存。
这是高通进军数据中心的商业支点，公司设定 2029 财年数据中心收入目标超 150 亿美元。即便无法在所有训练任务上击败 GPU，只要在大规模推理机架中占据份额，即可兑现其在功耗设计与系统集成上的积累。
打破垄断的不止高通
HBC 问世之际，HBM 并未停滞。三星和美光已宣布 HBM4 量产，带宽分别可达 3.3TB/s 和 2.8TB/s 以上。NVIDIA Rubin GPU 与 AMD MI450 等主流加速器也已规划 HBM4 配置。
HBC 旨在动摇 HBM 覆盖所有 AI 负载的默认地位：训练与高计算密度预填充仍青睐 GPU+HBM；大规模长时解码业务可能转向 HBC；CPU 侧上下文与 KV 缓存则更多采用 LPDDR。
对 HBM 厂商而言，这既是压力也是新机遇；对云厂商，多一种架构意味着更强的议价能力。
高通的挑战在于证明其不仅提供带宽数据，更有一套可开发、易维护且成本清晰的系统。为此，高通收购开源 AI 软件公司 Modular 以补齐软件短板，赌注推理将成为 AI 算力主要增量。
高通预测，2029 财年全球 AI 加速器市场规模将达 6800 亿美元。
结语
AI 内存格局正从单一王座走向多元分工：HBM 继续支撑训练与通用加速，HBC 争夺推理解码的规模红利。
若高通能将 133TB/s 的带宽转化为稳定的 Token 吞吐与更低的成本，LPDDR 的这次跨界将从客串变为改写行业分工的关键力量。
参考资料来源：电子工程专辑、全球半导体观察、OFweek 电子工程网、36 等相关报道。