DPU，全名DataProcessing Units（数据处理单元），被英伟达创始人黄仁勋称作与CPU、GPU共同组成“未来计算三大支柱”，CPU用于通用计算，GPU用于加速计算，而DPU 则用于数据中心的数据移动和处理。
当CPU的计算能力提升遭遇瓶颈，难以匹配快速增长的网络传输速率，就激发出了DPU的市场需求。DPU可以接手CPU不擅长的网络协议处理、数据加解密、数据压缩等数据处理任务，同时兼顾传输和计算的需求。DPU起到连接枢纽的作用，一端连接CPU、GPU、SSD、FPGA加速卡等本地资源，一端连接交换机/路由器等网络资源。总而言之，DPU不仅提高了网络传输效率，还释放了CPU算力资源，从而带动整体数据中心的降本增效。DPU将成为云服务提供商管理资源的工具，云服务提供商将云资源管理占用全部下沉至DPU，将CPU、GPU全部释放出来，作为基础设施提供给云租户，提供者与使用者两者之间的资源严格区分，管理界面清晰，方便使用。
DPU市场目前虽仍处于初级阶段，但正加速发展，业内预计未来2-3年会迎来爆发。从竞争格局来看，英伟达、英特尔、博通等国际巨头均已入场，而中国DPU行业的创业大幕也已拉开，中科驭数、星云智联、大禹智芯等多家国内企业已经在探索商业化落地的道路上。虽然无论是将核心技术转化为主营收入，还是让DPU这个新兴概念被更多客户所接受，都尚需时日，但在产业链上下游厂商的共同努力下，相信未来会有更多公司投入这一新兴赛道，共同推动国内DPU生态走向繁荣。
（一）芯片巨头热捧、英伟达老黄狂吹，国内掀起DPU融资热
（二）深度揭秘：百亿美元 DPU 芯片市场的「三国杀」
（三）深入了解 DPU：讲述驱动数据中心网络的引擎
（四）数据处理器（DPU）行业概览（2021）
（五）DPU：5G边缘云的新基石
芯片巨头热捧、英伟达老黄狂吹，国内掀起DPU融资热
DPU，全名DataProcessing Units（数据处理单元），被英伟达创始人黄仁勋称作与CPU、GPU共同组成“未来计算三大支柱”。这个新型计算单元宛如数据中心的一匹黑马，一时间变得炙手可热，并在国内外均掀起新一波投资热潮。
仅在今年，国内DPU创企中科驭数、星云智联、大禹智芯、芯启源、云豹智能等均宣布完成新融资，其中有多笔融资金额达数亿元人民币。
在国外，明星DPU创企Pensando、Fungible已经是“吸金”能力超强的数据中心新宠，Marvell创始人戴伟立、周秀文夫妇亦在2019年创立DPU新公司DreamBig Semiconductor。英特尔、Marvell、博通等芯片巨头更是早早押宝。
做CPU做不好、GPU做不了的计算任务
近年来，随着海量数据爆发，计算任务愈发密集，传统以CPU为中心的数据中心架构日渐面临性能提升的瓶颈，由CPU大包大揽各种计算和管控任务，逐渐演变为多类异构算力资源各司其职。
DPU作为专为CPU“减负”的一种新型专用处理器，将CPU所不擅长的网络协议处理、数据加解密、数据压缩等数据处理任务通通接手，通过处理器和网卡的组合，兼顾传输和计算的需求。DPU也被看作是智能网卡（SmartNIC）技术的演化增强版本。如今数据中心倡导以资源池的形式来做，各类资源分别管理、扩容，而DPU宛如一个连接枢纽，可以起到中心调度管理的作用，一端连接各种CPU、GPU、SSD、FPGA加速卡等本地资源，一端连接交换机/路由器等网络资源。
云计算刚需，巨头齐上阵
对于云计算厂商及大型互联网企业，采购DPU产品已是必然走向。往前追溯，国内外头部云计算厂商，如亚马逊云科技（AWS）、阿里云均已率先尝试类似的思路。过去数年间，博通、Mellanox（被英伟达收购）、赛灵思、英特尔等芯片公司均推出自家DPU产品，除了加强其对于网络协议和网络安全的处理能力外，也陆续在网络、存储和计算方面均分别展现出许多优势。目前，DPU处于发展初期，业界尚未形成统一标准，由于DPU面向的应用更加底层，类型更多样，各DPU厂商目前产品在具体功能侧重上各不相同，也还没有形成足够的规模部署，这为国内DPU创企带来了发展良机。
市场规模将达百亿量级国内DPU创企成资本宠儿
根据CanalysCloud Channels Analysis预测，到2023年，中国DPU市场规模将达190亿人民币。另据头豹研究院预测，中国DPU市场规模预计将在2025年超过37亿美元（约合240亿人民币）。目前中国DPU产品主要由英伟达、英特尔、博通等国际芯片巨头供应，同时，中科驭数、大禹智芯、芯启源、益思芯、星云智联、云豹智能等国内DPU创企作为推动DPU国产替代的生力军，得到了诸多资本的青睐。
深度揭秘：百亿美元DPU芯片市场的【三国杀】
2021-09-02 来源：包永刚雷锋网
继AI芯片之后，DPU芯片成了各大芯片巨头、互联网巨头、初创公司争相研发的新产品，也是近年来资本热衷投资的方向。不同于CPU和GPU，DPU是典型的应用驱动型芯片，传统芯片巨头有丰富的芯片设计经验但对应用场景的理解不够深入，互联网巨头深刻理解自身业务需求但芯片设计经验不足，初创公司各有所长。在全新的DPU赛场，谁能脱颖而出主导市场？
到底是IPU还是DPU？
2020年，英伟达基于其收购的Mellanox公司的产品发布了DPU，将DPU的概念带入大众视野。今年6月，英特尔公布了IPU（Infrastructure Processing Unit，基础设施处理器）的愿景。到底是IPU还是DPU？业界普遍认为，DPU和IPU在功能上没有根本性差别，只是命名不同。正如大禹智芯CEO李爽所说，我们不应该把重点放在寻找DPU的定义上，而应该更多关注DPU要解决哪些问题。
为什么需要DPU/IPU？
一方面，DPU诞生的背景是带宽与计算性能的增速失调。CPU的性能从5-10年前每年30%的增幅，到三年前大概只有每年不到3%的性能增幅。而网络带宽每年依旧还有35%左右的增长。当有10倍以上的差距时，就需要思考新的架构，DPU实际上是架构转移。英特尔公司数据平台事业部首席技术官Guido Appenzeller从另一种维度阐述，认为DPU/IPU诞生的是由于在云中，工作负载和系统两种架构分离的结果。传统数据中心与云服务提供商数据中心的架构是不同的，传统数据中心内只有一个主人，而云服务提供商的数据中心工作负载和系统则分别属于租户和云系统提供商，DPU/IPU作为一种新兴架构，专门运行云服务提供商的软件，租赁这些服务器的租户的软件则在CPU上运行，从而实现性能的大幅提升。
有哪些类型的DPU/IPU？
大禹智芯CEO李爽认为，目前DPU有三种技术架构：Arm多核或MIPS多核、CPU+FPGA的架构、ASICSoC的架构。前两种已经被验证过，优劣势也比较明显。多核架构具有通用性，整个技术栈偏软件为主。GuidoAppenzeller将IPU分为两类架构：专用ASICIPU、基于FPGA的IPU。每一类都有优势和劣势，基于FPGA的IPU能快速实施新协议，应对不断变化的要求或新协议；专用ASICIPU可以实现性能和效率的最大化。随着带宽变高，云服务提供商可能缓慢地从使用基于FPGA的IPU转向专用ASICIPU。国内外各家典型DPU提供商的硬件路线各有特色。英特尔是典型的传统芯片巨头的代表，拥有ASIC IPU和FPGA IPU两条产品线。国内的初创企业中，中科驭数选择的是ASIC IPU的路线。大禹智芯采用Arm、FPGA、ASIC根据场景不同组合的路线。不过，正如李爽所说，市场对于DPU的认可度非常高，但还没有一款很好的DPU能够满足客户需求，大家都在期待一款好的产品。
一款有竞争力的DPU/IPU有哪些特性？
由于DPU本身功能的多样性，导致去衡量它的时候需要的不是一个指标而是一套完整的指标。比如，衡量DPU的网络加速功能，网络带宽是关键指标。DPU支持虚拟化，OVS的转发容量又是关键。考量DPU的数据压缩/解压缩，加密和解密性能，在非对称的性能中选择哪一个作为关键指标又是问题。当然，对于一款芯片来说，物理指标，包括性能、功耗和面积依然可以作为衡量一款DPU的重要维度。但更重要的衡量维度是整个DPU系统，因为DPU是典型的场景驱动芯片。
2-3年后正式开启DPU赛场
相关业内人士认为，未来2-3年DPU市场会迎来爆发。目前各家都在比赛谁先把产品推向市场。除了传统的芯片巨头和初创公司，头部的云厂商们也在自研DPU产品。亚马逊云科技（AWS）2013年开始就开始研究将网络、存储等之前由CPU处理的任务卸载到网卡上，并推出了相应的产品。阿里云也在其神龙服务器核心组件中应用了专用芯片，统一支持网络、I/O、存储和外设的虚拟化。
资本在加持，玩家在增加，传统芯片巨头、初创公司、自研DPU的头部云服务提供商，谁会成为最终统治市场的2-3家DPU提供商？
近日，领导NVIDIA以色列BlueField设计团队的首席架构师Idan Burstein 在Hot Chips上讲解了DPU的架构。这也是科技界首次公开详述云服务、超级计算机和网络设备正在使用的NVIDIA BlueField DPU的内部结构，DPU芯片是一个由硬件加速器和通用Arm核组成的阵列，可用于加速网络、安全和存储工作。
具体来讲，DPU通过打包专用硬件来更高效地运行网络、安全和存储等领域应用，从而释放更多的CPU核以用于数据中心应用。在达到裸金属性能的情况下，DPU可以实现数据中心硬件虚拟化和高级安全。其用途涵盖云计算、媒体传输、存储、边缘处理，以及高性能计算等多个领域。NVIDIA首席执行官黄仁勋将DPU描述为“未来计算的三大支柱之一”，即CPU用于通用计算，GPU用于加速计算，而DPU则用于数据中心的数据移动和处理。
一个完整的即插即用栈：用户只需要将现有的软件插入熟悉的高级软件接口，就可以使用DPU。这些接口API都集中在一个被称为NVIDIA DOCA的DPU软件栈中。该栈包括驱动程序、库、工具、文档、示例应用和运行时环境，可在整个数据中心的数千个DPU上进行配置、部署和编排的服务。目前，已收到数百家企业机构提出的提前体验DOCA的申请，其中包括了一些全球行业的领导者。
DPU在数据中心和云中的应用：DPU架构正在被应用于几个全球最大的云以及一台TOP500超级计算机，并与新一代防火墙集成。DPU 将被应用于华硕、Atos、戴尔科技、富士通、技嘉科技、新华三、浪潮、广达/QCT，和超微提供的系统，这些系统拥有十多个其他合作伙伴提供的软件支持。目前，为了安全提供计算实例，全球各地多家云服务提供商正在使用，或准备部署 BlueField DPU。
DPU驱动的网络即将到来：Dell’Oro Group的市场观察家预测，智能网络端口的出货量将从2020年的440万增加到2025年的740万，几乎增长一倍。为了应对这一增长，NVIDIA在GTC大会上宣布了其未来两代DPU的路线图。明年出样片的BlueField-3将把最高网络速度提高至400 Gb/s并具备x86 300 个核的网络处理能力。而随着NVIDIA AI计算技术的嵌入，BlueField-4的性能将飞跃提升。从市场趋势和Hot Chips讲座中可以明显看出，如同在AI领域的步伐一样，NVIDIA现在也在引领着加速网络领域的发展。
数据处理器（DPU）行业概览（2021）
2021-07-23 来源：头豹格致产业发展
DPU的作用：DPU本质作用在于承载网络侧专用性的网络堆栈算法和传输协议运算转移，核心效用在于释放CPU算力资源、助力其他计算模块高效处理业务数据。
技术路线分类：DPU可基于FPGA、MP（Multi-core，MP)与ASIC三类核心处理器进行设计；产品实现角度：已商用的DPU产品形态包括“ASIC+GP”（NVIDIA等采用）、“ASIC+NP”（华为等采用）。基于FPGA、MP、ASIC的DPU在性能、成本、可编程性等方面的表现存在较大差异，供应商可通过不同处理器组合的技术路径，实现单点突破的产品模式，或寻求不同需求点之间的平衡。FPGA与SoC是DPU主流的技术路线，在性能、成本以及灵活性上实现了较为理想的平衡。
产业链：DPU产线链的上游主要包括：EDA、IP核、制造封测等。中游即DPU供应商，分别基于FPGA、ASIC、NP-SoC、GP-SoC等底层处理器开发更为专用的计算、传输等功能。下游为具体应用领域，包括数通市场、电信市场、自动驾驶市场、AI服务器市场等，国内DPU行业下游市场发展成熟，数通市场需求扩容速度最快，电信市场存在潜在底层需求，或驱动下一轮数通市场对DPU需求释放。数通市场是DPU最大的应用市场，可为终端政企用户提供较为成熟的硬件加速解决方案。DPU在电信市场的应用主要为边缘计算场景，渗透率不足5%，随着NFV技术的演进，电信市场对DPU的需求将逐步释放。针对智能驾驶领域的DPU仍在探索阶段，预计在2023年DPU才有望布局在智能驾驶领域。
全球竞争格局：DPU产品最初主要由一定市场和技术储备的成熟网络设备生产商以及芯片巨头提供，包括Mellanox，Netronome，Broadcom，Cavium。随着数据流量的暴涨以及CPU算力瓶颈的凸显，中小企业亦开始布局DPU市场。DPU市场处于早期阶段，技术路线与产品形态均不明确，中小企业试错成本高，难以迅速发展。云计算厂商巨头包括亚马逊以及华为云通过收购优质的DPU企业或自研DPU用于自身部署。国际厂商方面，全球DPU市场排名前三的企业包括NVIDIA、Intel与Broadcom，在技术积累与市场渠道上优势显著。其中，NVIDIA通过收购Mellanox，其产品在时延与功能均位居市场第一，在DPU市场实现弯道超车。产品方面，英伟达、英特尔以及博通均推出了多款产品，数据的传输速率以及存储的读写速率分别达到40Gbps以及32Gbps。中国本土DPU企业起步较晚，数据的传输速率以及存储的读写速率分别为10Gbps与8Gbps，与国际头部厂商有着1-2代的技术差距。同时，本土企业DPU商用化不足，在性能上以及可靠性上都无法满足当代云计算厂商的需求。
DPU：5G边缘云的新基石
2021-08-25 来源：5G研究小组SDLAB
5G将大量部署在网络边缘，提供实时应用和服务。但据IDC统计，近10年来全球算力增长明显滞后于数据的增长。每3.5个月全球算力的需求就会翻一倍，远超算力增长的速度。在5G的推动下，计算组织从“端—云”一体，到“端—边缘—云”一体；从内存计算发展到网内计算。基础设施云资源作为5G发展的重要基石，也发生了极大的变化。
5G的需求：5GMEC作为分布式计算部署架构，将计算能力、业务以及部分5G网络能力部署到网络边缘，实现低时延的就地数据处理、敏感数据本地处理，可以很好的适配低频、频次不确定同时时间敏感的业务场景。随着边缘计算需求的增长，现有的回传网络处理速度无法匹配5G网络数据产生的速度和容量需求，需要在边缘部署新的、更快和更高容量的路由。5G虚拟化网络功能需要高度分布式的数据中心。这类数据中心可以部署足够多的服务器，在运行5G网络的同时运行边缘云服务。
DPU的出现：在云基础设施领域，CPU用于通用计算，构建应用生态，虚拟化技术例如Hypevisor等占用大量的内存和CPU资源，而真正用作共享的资源受到较大的影响。此时，需要一种技术，能够卸载CPU负荷，最大限度的将硬件资源共享给租户。DPU是5G时代集网络加速为一体的新型数据处理单元，相当于智能网卡的升级版本。DPU内部融合了RDMA、网络功能、存储功能、安全功能、虚拟化功能。接手CPU不擅长的网络协议处理、数据加解密、数据压缩等数据处理任务，同时兼顾传输和计算的需求。DPU起到连接枢纽的作用，一端连接CPU、GPU、SSD、FPGA加速卡等本地资源，一端连接交换机/路由器等网络资源。总体而言，DPU不仅提高了网络传输效率，而且释放了CPU算力资源，从而带动整体数据中心的降本增效。DPU将成为云服务提供商管理资源的工具，云服务提供商将云资源管理占用全部下沉至DPU，将CPU、GPU全部释放出来，作为基础设施提供给云租户。提供者与使用者两者之间的资源严格区分，管理界面清晰，方便使用。
当前，DPU市场仍然处于初级阶段。随着网络流量指数上涨，在任何有大流量的地方，DPU都将存在，市场前景广阔。在DPU加持下，5G时代边云协同、云网一体都将逐渐成为现实。
免责声明：本文版权归原作者、原网站所有，感谢原作者辛苦创作，如有侵权，请及时告知，我们将在第一时间核实并处理。
