什么是HBF？
HBF的全称是 High Bandwidth Flash（高带宽闪存）。
简单来说，它是介于HBM与SSD之间的一种新型存储层级。这项技术最初由闪迪于2025年2月首次提出。就在不久前的2026年8月，存储巨头SK海力士（SK Hynix）与闪迪在FMS 2026上，联合发布了HBF的首个行业标准规范，正式把它推向了标准化道路。
为了让你一眼看清它在AI算力架构中的定位，我们不妨直接把HBM、HBF和大家熟知的企业级SSD放在一起做个直观对比：
|
|
|
|
|
|---|---|---|---|
| 底层核心介质 |
|
|
|
| 单堆栈/单盘容量 |
|
|
|
| 读取带宽 (速度) |
|
|
|
| 数据易失性 |
|
断电后数据不丢失 |
|
| 硬件成本 |
|
中等 (介于二者之间) |
|
| 在AI服务器中的分工 |
|
|
|
通过对比可以发现，HBF借用了HBM成熟的3D芯片堆叠技术（硅通孔 TSV 封装），但把里面昂贵的DRAM芯片，换成了SSD里常用的NAND闪存芯片。这种做法，让它在拥有接近HBM吞吐速度的同时，获得了接近SSD的超大容量和低成本优势。
得益于NAND闪存的物理密度，单堆栈的HBF容量最高可达 512GB。若在一个GPU周边集成8个HBF堆栈，近端存储容量可达到 4TB。在速度方面，通过超高并行的接口设计，初代HBF的读取带宽最高可达 3.0TB/s，远超传统企业级SSD
为什么要搞出个HBF？
行业之所以急着推行HBF，主要是因为AI推理正在迎来Agent时代。
现在的AI不再是回答一两句话就结束了，它们需要处理超长文本，并在多轮对话中进行复杂的自主规划。这种“长记性”的代价，就是大模型在运行时会产生海量的 KV Cache。当上下文长度拉长时，KV Cache 的容量会从百GB级直接飙升到TB级。
如果全用HBM来装，成本会持续升高；如果放到普通SSD里，GPU就会因为等数据而频繁等待，算力严重浪费。
HBF恰好踩中了这个痛点。它并不是为了取代HBM，而是跟HBM各司其职。让HBM去处理那些对延迟极其敏感的即时核心计算，而让HBF去承接庞大的模型权重存放和KV Cache缓存。这样一套组合拳下来，大模型推理的整体硬件成本有望大幅下降。
HBF对下游产业与大模型技术的影响
由于HBF改变了存储的容量与带宽性价比，可以预见它将对大模型算法演进以及AI应用层带来了直接的技术重塑。
1. 解除参数量与上下文长度的存储限制
在传统架构中，大模型的参数量与上下文窗口的扩大均会受到HBM容量的物理限制。
- 模型参数量容纳度提升：HBF提供的高容量支持，使得数万亿参数的MoE能够以更少的节点进行部署，减少了因HBM容量不足而被迫进行的高损耗模型量化压缩。
- 长上下文成本降低：在处理百万级Token的超长上下文时，算法会产生海量的 KV Cache。HBF通过承接这部分对延迟要求相对DRAM较低、但容量需求极大的缓存数据，显著降低了长上下文推理的硬件成本。
2. 更好地支持智能体的复杂数据流
智能体技术要求大模型具备自主规划、工具调用以及多轮对话的长期记忆能力。
- 智能体在后台高频执行多任务时，会产生大量的中间状态数据与高频的上下文检索需求。HBF所具备的 3.0TB/s 带宽与大容量特性，能够支持智能体在毫秒级内完成历史深度上下文的检索，从而维持复杂任务中的逻辑连贯性。
3. 优化总拥有成本（TCO）
在商业运作中，AI计算集群的建设和运营成本是决定大模型能否大规模普及的关键。HBF从底层介质和架构上优化了这一指标：
- CapEx大幅下降：NAND闪存的每GB成本远低于DRAM。通过建立“HBM + HBF”的分层存储架构，AI芯片厂商可以在不牺牲核心带宽的前提下，用低成本的HBF替代部分极其昂贵的HBM份额，从而降低单个计算节点的硬件采购开支。
- OpEx与能耗优化：与需要持续通电刷新数据的DRAM（HBM）不同，HBF采用非易失性的NAND闪存，其在维持大容量数据存放时（如静态的大模型权重、非激活状态的KV Cache）的静态功耗极低，有助于降低大型数据中心的整体功耗（PUE）和散热成本。
4. 降低生产力工具的部署门槛
对于 CodeBuddy / WorkBuddy 这类需要深度融合企业工作流和本地数据库的AI应用，HBF提供了实质性的工程支持。
- 私有化部署成本下降：此类应用需要实时处理企业文档、历史聊天记录等大容量本地数据。在私有化部署时，采用HBF替代部分HBM方案，可在保证读取性能的同时大幅降低硬件采购预算。
- 高频知识库的高效检索：HBF能够将员工个人的高频专属知识库进行近端缓存。当用户发起请求时，系统可通过高吞吐接口将知识库数据快速传输至显存，减少了因调用传统存储而导致的响应卡顿。
商业化时间节点
根据开放计算项目（OCP）公布的技术路线图，HBF的工程样品预计将于2026年下半年推出，并计划在 2027年 正式迈入商业化应用阶段。
目前，诸如谷歌等拥有大规模大模型运营需求的互联网巨头，已对该技术表现出明确的跟进意愿。随着2027年商用节点的临近，HBF有望成为优化大模型推理成本、推动AI算力架构分层演进的关键技术支点。