xucvai · 2月14日

Arm的关键一战

内容由公众号半导体行业观察(ID:icbank)原创
转自半导体行业观察

过去两年,随着AI的兴起,还有有志于做人工智能芯片的企业开始在自有的CPU中嵌入类似寒武纪等品牌的NPU,或者如华为这样自研NPU。蜂拥而起的AI造芯潮使得很多人认为在这个新兴的AI市场,Arm已经丧失了先机,甚至有激进者认为Arm在这个即将爆发的人工智能市场将毫无建树。

但在2018年二月公布代号为Project Trillium的机器学习计划,2019年10月发布包括Ethos N77/N57/N37,并于日前发布全新的Ethos U55 NPU之后,这家IP巨头的AI布局开始逐渐浮出水面。

在谈Arm的AI芯片布局之前,我们先来了解一下Arm以及当前的AI芯片现状。

AI时代错失先机

这家在英国成立,最终被软银巨额收购的芯片公司是IP领域的绝对龙头。

如果统计处理器市场,特别是嵌入式处理器,Arm的IP是当中毫无疑问的大赢家。以大家熟悉的智能手机市场为例,无论是国际知名的苹果和三星,还是国内的华为、小米,他们使用的处理器无一例外都是基于Arm-Cortex-A系列IP设计。

再看嵌入式MCU,因为ST、NXP和瑞萨的力拱,以及一众本土厂商的加入,Arm MCU的市场在过去多年里也节节攀升。关于Arm MCU的份额,笔者并不能找到相关数据,但从Arm公司2017年的一份PPT中我们可以看到,物联网设备中,有90%的控制器都是基于Arm产品设计的,微控制器市场,Arm的份额也高达20%。如果统计整个带有处理器的芯片,则使用Arm相关IP的产品占比达到39%。

1.jpg
Arm在不同市场的份额和机会(source:Arm)

此外,Arm还有GPU和DPU等一系列IP在市场上表现不错,这也帮助Arm获得了不错的市场份额。

据IP Nest的统计数据显示,整个IP市场2018年的总值为36.02亿美元,当中虽然Arm的份额连续第三年下滑,但是他们的占有率还是高达44.7%,遥遥领先于第二位。IP Nest在报告中还谈到,高端产品的授权转向了架构授权,而最低端的处理器则开始拥抱RISC-V。在2018年的IP市场里,还有一个值得关注的点,那就是机器学习和其他专用架构产品的兴起。

但在AI发展的前几年,Arm在这方面是缺失的。

1.jpg
2018年的IP供应商排名

回看过去几年的AI芯片发展,云端市场是GPU、ASIC和FPGA这些大规模芯片的自留地,这是大部分的芯片厂商所无法设计的,但在终端的推理市场,则百花盛开,百家争鸣。有厂商一开始就通过自研去步入这个领域(如苹果),在MCU市场,ST也推出了代号为Orlando Project的专用卷积神经网络加速器;有厂商则依靠第三方IP去进攻这个市场。这就催生了寒武纪和耐能一些新兴的NPU IP供应商,也让一些老牌厂商的产品在AI加速器这个市场寻找了新的机遇,如CEVA、Cadence(Tensilica)和Verisilicon就是当中的代表。

根据ABIRe-search预测,2024年,终端AI芯片市场规模将增长至710亿美元,2019年至2024年间的年复合增长率将达31%。考虑到AIoT市场的潜力,当中必然有相当大一部分营收来自于Arm MCU供应商。那就意味着如果Arm握不住这个市场,他们将会错失一大块蛋糕。甚至有可能在一些集成了RISC-V 与加速器的MCU的倒逼下,连本身领先的Cortex-M MCU城池也失守。

为此,Arm加速AI部署刻不容缓,这就促使Arm在昨日放了个大招。

投下NPU重磅炸弹

其实Arm NPU并不是什么新鲜事物。在文章开头我们已经说到,Arm在去年就推出了其Ethos N77/N57/N37系列NPU。如下图所示,Arm的这个家族的NPU是瞄准手机、AR/VR和智能监控等市场。

但很显然,Arm的NPU在这些市场几无胜算。

1.jpg
Arm Ethos N77/N57/N37家族

首先看手机市场,盘点现在的手机处理器厂商华为、高通、苹果、三星、MTK和展锐,除了展锐授权了Imagination的AI加速器之外之外,其他所有的厂商都是使用的自研NPU或者使用异构的硬件来做AI加速,当中的华为和MTK等NPU忠实玩家甚至都已经将其AI加速器推进到第三代。在这个发展过程中,他们也同步发展了其AI软件和生态,这就让他们没有任何理由转向Arm的加速器。上图的其他市场大多也有这种境况。

但在未来巨大的市场当中,还有一个目前还没有被大幅挖掘的金矿,那就是低功耗的终端应用。这也是Arm Ethos U55所瞄准的目标。而据行业的专家告诉半导体行业观察记者,AI加速器能否应用到超低功耗的物联网市场,首先要关注的一点就是它的功耗表现,这也是Arm在致力于解决的。

日前发布的Ethos U55 和与之搭配的Cortex-M55则是Arm在这个市场的小试牛刀。

1.jpg
Arm为终端AI带来的全新方案

Arm的官方表示,新增的Cortex-M55是Arm历来AI能力最为强大的Cortex-M处理器,也是首款基于Armv8.1-M架构、内建Arm Helium向量处理技术的处理器,它可以大幅提升DSP与ML的性能,同时更省电。Arm同时指出,在这个新的处理器上,客户可以使用Arm Custom Instructions (Arm自定义指令集)延伸处理器的能力,对特定工作负载进行优化。来到Ethos-U55,这是一个可从32个MAC扩展到256个MAC的micro NPU,在与Cortex-M55耦合之后,能够为微控制器带来480倍的机器学习性能飞跃。

Arm方面还强调,这个全新搭配还得到了Cortex-M软件开发工具链的支持,这就使得其针对传统DSP与ML等工作负载,有了一致的开发流程;同时从TensorFlow Lite Micro开始,能针对先进机器学习框架进行特定的整合与优化,确保开发人员拥有无缝的开发体验,并能够在任何一种Cortex-M与Ethos-U55的配置上,获取最佳性能。

1.jpg
Arm首款microNPU

业内专家也告诉半导体行业观察记者,考虑到Arm当前的地位和名声,这套方案带给市场的影响是显而易见的。Cortex-M方面自不用多说,这是他们在嵌入式市场安身立命的重要武器。而来到NPU方面,也同样亮点不少。一方面,这是一个带两级SRAM,L2 SRAM可扩展到数MB的产品;另一方面,Ethos-U55自带DMA+control unit, 可完成异步数据流管理;第三,Ethos-U55的Weight Decoder可将神经网络中的weights进行压缩,提高带宽;第四,这个NPU还有针对element wise运算的特殊加速单元,能帮助矩阵运算。

还有一点,Arm CMSIS-NN所积聚的生态,也会是一个重要的X因素”,业内专家强调。


据介绍,所谓CMSIS的全称是Cortex Microcontroller Software Interface Standard (Cortex微处理器软件接口标准),这是Arm为了解决微处理器生态中软件无法兼容的问题而推出的。而CMSIS-NN则是Arm为了缓解微处理器神经网络相关软件优化压力而推出的CMSIS新成员.

1.jpg
CMSIS-NN的框架图

行业专家表示,在Arm刚推出这个库的时候,彼时的Arm Cortex-M还不能跑出让人眼前一亮的结果。但因为Arm强大的号召力,即使很多厂商并不知道它的真正用途,但都纷纷将其融入了其OS和生态里。

而在上述的M55和U55出来以后,Arm的计划似乎也明朗了起来。

胜负未知

也许Arm的想法是这样的——我们有足够多的MCU客户,有足够多终端用户,过去的十几年里,我们也构建了无可比拟的生态,只要我们把这套工具磨利,就能让大家投奔我门下,让Arm在嵌入式AI领域重现Cortex-A和Cortex-M时代的辉煌。

但市场已经不再是以前的市场。

我们可以看到,无论是Cortex-A所支持的AP或者是Cortex-M所驱动的MCU生态,他们所面对的都是相对单一的需求。换而言之打造一些通用化的方案就能通吃市场。但进入了当前的AIoT市场,市场需求千差万别,定制化或者会更为一股重要的趋势,这也是Arm Custom Instructions面世的原因之一。

更重要的是,Arm不但迎来了新的技术,还迎来了更强悍的竞争对手。

首先,以大家过去一两年常谈的RISC-V为例,因为其独特的开源特性和成本优势,很多分析人士都认为其可以在AIoT时代大展拳脚。而在最近,RISC-V的领先厂商SiFive也宣布,将携手IP厂商CEVA,在CPU、DSP、AI处理器和软件方面进行合作,帮助芯片企业开发出大批量面向智能家居、汽车、机器人、安保、增强现实、工业和物联等一系列边缘智能SoC。在官方新闻稿里,他们也强调了面向特定领域的超低功耗Edge AI处理器,这正是Arm新产品所聚焦的。

其次,Lattice这些小容量FPGA供应商,也无限看好这个市场。Lattice方面表示,基于他们的Lattice sensAI可以帮助OEM厂商为下一代毫瓦级智能设备赋予AI和ML功能。对于Arm阵型来说,这也是一个潜在的挑战者。

第三,类似Greenwaves这些初创企业,也成为嵌入式AI市场的一个不确定因素。资料显示,他们最新推出的GAP 9可提供41.6 GB /秒的峰值群集内存带宽和高达50 GOPS的组合计算能力,而总功耗仅仅为50mW,再搭配其完整的工具,这也成为了嵌入式AI市场一股不可忽视的势力。

第四,在Arm芯片阵型里,有一些大客户在研发自己的加速器方案,如瑞萨的动态可配置处理器 (DRP) 技术就是当中一个代表。再搭配其SOTB制程来降低功耗,这就让日本巨头的嵌入式AI方案变得非常有竞争力。

最后,Arm的嵌入式AI方案是否真的能如他们所说,减轻了很多客户的开发工作?这是一个值得推敲的问题。行业专家表示,在嵌入式AI这个领域,其实大家在软件开发上面的难度差不多,迄今为止也没有人能建立其一个很强大的生态。

而对于那些购买了Arm NPU IP的人,他们除了需要面对数据搬运的挑战外,还要直面是否有完整的工具,能很好帮助他们完成模型训练到片上移植的过程。最重要的一点,Arm的这些新IP授权费用怎么收?这也是一个重要考量点。但即使如此,Arm也迈开了嵌入式AI市场的一大步。

从分析师预测看来,AIoT是发展的必然趋势,这也是一个多个阵营虎视眈眈,但谁都没有把握稳赢的市场。作为一个拥用强大的生态合作伙伴的Arm,能否凭借新产品成为这个赛道的领跑者,尚待观察。但对他们来说,这关键一战的冲锋号已经吹响。

3 阅读 77
推荐阅读
0 条评论
关注数
2
文章数
1
关注Arm相关
目录
qrcode
关注微信服务号
实时接收新的回答提醒和评论通知