12

孙盔盔 · 2021年11月04日

新一代Arm微控制器组合,AI推理速度提升800倍!

原文链接:Alif Semiconductor uses Arm devices to improve inference performance and power efficiency for AI/ML embedded applications – Electronics World

仅作学习用途,侵删,转载说明出处!

能力一般,水平有限,大家凑合着看~~

分割线以下为正文!!!


利用Arm的技术,Alif正在以一种之前不可能的方式在边缘端实现了常感知的电池供电的AI/ML功能,释放了机器学习在嵌入式应用中的潜力。

传统的通用微处理器的用户希望得到在嵌入式应用中的AI/ML技术,以改进现有的解决方案,并能够针对嵌入式领域传统方法无法解决的问题,构建新的解决方案。到目前为止,Al/ML技术并不适合嵌入式应用,因为AI/ML在设计时没有考虑到嵌入式应用的限制,如内存容量、CPU性能、网络访问和低功耗。

而在使用了Arm的Ethos-U55 microNPUs和Cortex-M55 CPU内核后,Alif Semiconductohas公司在此类应用的性能和功耗方面表现出了显著的提升。与当前的CPU性能受限的方案相比,AIif公司的Ensemble和Crescendo系列产品,集成了专用的高性能和高效率系统,以显著高效的加速了嵌入式设备中的Al/ML运算。

Arm的机器学习组群,商业和营销副总裁Dennis Laudick表示:“要实现无处不在的AI,需要设备制造商和开发人员在数十亿台设备上的嵌入式应用中本地提供机器学习的能力。“通过第一个结合Ethos-U55和Cortex-M55解决方案的芯片实例,Alif展示了Arm ML技术带来的显著性能和效率提升,在众多改变生活的应用中安全地释放了人工智能的潜力。”

Alif半导体的架构,围绕着常开、电池友好、环境感知的概念构建。它的高效(HE)子系统,由Arm Ethos-U55 microNPU和Cortex-M55 CPU提供算力,专门配置用于低功耗操作,可以在AI模型的帮助下,持续监控其周围的触发事件,如声音、振动、图像等。一旦检测到触发事件,专用的高性能(HP)子系统可以详细检查并分类事件,快速确定要采取的正确操作。HP子系统包含另一对Cortex-M55和Ethos-U55,它们配置有额外的性能和内存,能够运行更复杂的决策和分类模型。HE和HP子系统都运行在Alif的自主智能电源管理(Autonomous Intelligent Power Management,aiPM)架构之上,确保电源仅由需要激活的部分设备消耗,从而进一步延长电池寿命。

Alif半导体总裁兼联合创始人Reza Kazerounian表示:“Alif成立背后的关键驱动因素之一,是缩小低功耗机器学习与嵌入式物联网设备市场之间的距离。“通过将我们创新的电源管理以及高度可扩展并且面向性能的架构与Arm Cortex-M55 & Ethos-U55相结合,我们打造了一个为未来的物联网设备提供高效边缘处理能力的完美的平台。”

Arm DevSummit上的演示将使用Alif Ensemble MCU上始终可用的HE子系统进行关键词定位(使用DN-CNN模型),以触发MCU的HP子系统进行图像分类(使用MobileNetV2模型)。关键结果:

  • 关键词识别的高效(HE)子系统

    • 每次推理,Ethos-U55 + Cortex-M55比Cortex-M55本身快28.9倍,能效高33.0倍
  • 用于图像分类的高性能(HP)子系统

    • 每次推理,Ethos-U55 + Cortex-M55比Cortex-M55单独使用时速度快75.2倍,能效高76.0倍
  • 正如Arm所声称的,当Ethos-U55和Cortex-M55一起使用时,相较于使用上一代无microNPU的Cortex-M CPU的MCU而言,推理快了800倍。
推荐阅读
关注数
23582
内容数
1033
Arm相关的技术博客,提供最新Arm技术干货,欢迎关注
目录
极术微信服务号
关注极术微信号
实时接收点赞提醒和评论通知
安谋科技学堂公众号
关注安谋科技学堂
实时获取安谋科技及 Arm 教学资源
安谋科技招聘公众号
关注安谋科技招聘
实时获取安谋科技中国职位信息