2020年,半导体行业圈有了新的热点——DPU(Data Processing Unit,数据处理器)。自被英伟达CEO黄仁勋称为“数据中心第三颗主力芯片”后,DPU就以惊人的速度崛起,成为整个行业甚至整个社会的关注重点。
到2023年,经过三年的发展,DPU呈现出新的格局:自研、初创DPU芯片发展突飞猛进,DPU应用开始逐渐落地,ChatGPT等AIGC应用对高算力的需求,进一步推动了DPU发展。
世界排名前五的芯片公司都在DPU赛道占位,DPU成了“兵家必争之地”。据赛迪顾问发布的数据,预计到2025年全球DPU产业市场规模将超过245.3亿美元(约1771亿人民币),DPU市场有望实现跳跃式增长,迎来黄金发展期。
2023年的DPU格局如何?未来如何发展?8月4日,第三届 DPU 峰会将于北京举行,将有来自中国工程院、电信运营商、传统芯片厂商、初创公司等在内的30多位资深行业代表,分享国内外DPU最新进展与实践。
1.DPU:为CPU“减负”
人类发展经历了三次大分工,群居生活中,为了使群体更能生存下去需要加快工作效率,因而产生了分工。马克思主义认为,社会分工是生产力发展的结果,促进着生产力的发展。
而缩小到计算机这一相对微观的视角,在冯诺依曼架构这一以计算和存储为核心、CPU居于中心地位的传统架构下,CPU作为“大管家”,统一调度所有基础资源:网络数据包收发过程中需要CPU参与协议栈的处理,GPU所处理的数据也需要CPU来协调。虚拟化、存储、网络、加解密、压缩解压…都要经过CPU处理。
(冯诺依曼架构)
但这并不总是效率最高的方式。CPU的定位是通用计算,在一些特定领域,CPU的效率远不及一些专用芯片,比如在I/O密集的应用场景中,智能网卡的数据传输效率更高。
随着生成式人工智能、数据科学、自动驾驶、元宇宙等新兴应用的加速落地,全球各行各业对大规模算力的需求急速攀升,算力正逐步成为新时代的核心生产力,CPU越来越难以负担一些复杂的计算,需要进行任务分工。
举个栗子。
从前有个冯诺依曼餐馆,刚开业时顾客少,只需要CPU一个员工即可,作为一个通用的CPU,他身兼数职,顾客点菜沟通——收银——做菜——传菜——收拾——备菜都是CPU完成,CPU一条龙处理贼顺畅!
随着店铺口碑建立顾客增多,CPU越来越忙。CPU的薪资是1.5万一个月,作为本店的大厨,其实他更擅长做菜,让他分时分力做小二的活计太浪费。并且有些顾客有特殊需求,需要有更多服务技巧的小二去接待,擅长做菜的CPU并没有用武之地。于是,冯诺依曼餐馆招了1名收银员DPU(3000元/月),专门负责点菜沟通和收银;招了1名店小二GPU(3500元/月),负责传菜、收拾和备菜。CPU发挥自己的特长,专注于菜品研制和做菜。这样一重新分工,餐馆的工作效率和服务质量蹭蹭提高,生意越来越好了!
(CPU-DPU-GPU分工协作)
正如开餐馆一样,重新分工后,CPU负责整个IT生态的定义及处理通用计算任务,GPU负责数据并行的任务如图形图像、深度学习、矩阵运算等加速计算任务,DPU则承担起安全、网络、存储和AI等其它专用业务的加速处理。DPU与CPU、GPU地位平等,相互交互、相互协调来完成计算任务。DPU专门负责IO的处理和数据传输(点菜收银),这些以前由CPU处理的工作被卸载,让CPU可以专注于业务的计算(做菜),从而提升系统的整体效率。
(DPU主要任务)
2.2023年DPU格局
2023年DPU赛道继续大热,芯片巨头、初创公司、云厂商、传统设备厂商纷纷开始发力DPU,推出新的产品或解决方案。
2023 DPU厂商盘点__(按公司简称首字母排序)
在DPU技术路线上,各家选择略有不同。DPU有ASIC、FPGA和SoC三种实现路径,在成本、编程简易性和灵活性方面各有利弊。业内人士透露,目前DPU主流的市场方案包括以Arm核为主的架构、FPGA+CPU架构,以及SoC架构,前两者已经在云计算厂商得到批量部署,整体看SoC方案则是今后的趋势。
DPU的主要场景是数据中心,潜在客户主要是云厂商。目前,包括阿里、腾讯等在内的大型公有云厂商,都通过自研或投资加入DPU赛道;私有云厂商需求复杂,DPU产品需要与业务场景紧密相关,谁能吃透客户业务场景、跟用户走得更近、谁的定制能力更强,机会就越大。
除数据中心以外,智能驾驶、数据通信、网络安全等也是DPU的下游应用领域。未来,智能驾驶每个车机节点都可视为小型数据中心,并将产生大量的数据处理、转发、交换和存储需求,每辆智能驾驶汽车都有望配备DPU。
总体而言,DPU目前尚处于起步阶段,但可以确定的是,未来数年内DPU市场在全球将是一片蓝海。当前国内外DPU厂商基本处于相同的发力节点,任重而道远,国内DPU厂商需要加强与云厂商、产业链上下游厂商等各方的深度合作,携手打造更好、更开放的DPU生态。
3.2023 DPU盛会先睹为快
耳闻不如目睹,目睹不如身受。面对百花齐放的DPU赛道,对DPU感兴趣的粉丝如何才能一手体验呢?8月4日,由中国通信学会指导、江苏省未来网络创新研究院主办的“第三届DPU峰会”将在北京举行,现场大咖云集、议题丰富,可以免费报名参会(扫描下方二维码或点击“阅读原文”)。
附:活动日程
可上下滑动进行查看
参考
1、云数科技圈:《DPU大火,“第三颗”芯片究竟是风口还是坑口》
2、鲜枣课堂:《火遍全网的DPU,到底是个啥?》
3、零点有数:《零点有数带你一文分清CPU、GPU、DPU计算“三兄弟”》