ParagBeeraka 2021年12月2日
物联网继续在大量市场和应用中转变边缘计算,从最小的、功率受限的设备到具有显示、图形和计算能力的嵌入式设备。Arm处于这一转型的前沿,并通过提供Arm虚拟硬件作为Arm物联网总体解决方案的一部分,继续推动这一转型。
Arm虚拟硬件是Arm建模技术的发展,它提供了基于Arm的SOC的功能精确模型。它为应用程序开发人员提供了在硬件可用性之前和之后构建和测试软件的机会。它在云中作为一个简单的应用程序运行,用于模拟内存和外围设备,用于测试和使用DevOps和MLOps工作流等现代敏捷软件开发实践。
Himax Technologies,Inc.是显示驱动器领先供应商。其他半导体产品(如edge AI处理器和始终在线图像传感器)和无晶圆厂制造商,一直在与Arm合作进行这一转型。Himax always-on智能传感产品提供最先进的人工智能计算能力,同时具有极低的功耗、低带宽要求和隐私。为了通过边缘设备上的智能来拥抱快速增长的超低功耗技术市场,Himax通过使用Arm虚拟硬件进行内部软件开发和机器学习,成为Arm总体解决方案的领先合作伙伴之一。
机器学习和人工智能的融合显著提升了物联网的潜力,成为物联网转型的关键部分。作为这些努力的一部分,Himax还加入了Arm AI合作伙伴计划,为开发人员和客户提供领先的AI专业知识、解决方案和服务,实现了Arm的转型。
Himax已经展示了基于Corstone-300的Arm虚拟硬件的成功使用,并将其项目配置到目标平台。在Arm虚拟硬件上,Himax能够使用超轻量机器学习模型YOLO fastest XL,这是一种公共模型,能够检测大约80个对象,代表tinyML应用程序的完美部署。
聆听Himax Technologies研发副总裁Mark Chen讨论Himax如何利用Arm虚拟硬件。
https://www.youtube.com/embed/iDDxqTt4vfs?enablejsapi=1&origin=https://community.arm.com
试试看
要开始使用Arm虚拟硬件,请查看此文档页面,其中提供了有关如何从AWS市场访问Amazon机器映像(AMI)的说明。该文档解释了如何启动Arm虚拟硬件的EC2实例并进行连接。
尝试的第一个软件示例是使用TensorFlow Lite的micro speech示例。它有一个非常简单的编译和运行过程。
git clone https://github.com/ARM-software/VHT-TFLmicrospeech.git
cd VHT-TFLmicrospeech/Platform_FVP_Corstone_SSE-300_Ethos-U55
cp_install.sh packlist
cbuild.sh microspeech.Example.cprj
./run_example.sh
micro speech示例打印识别yes和no关键字的音频推断结果的输出。
micro speech示例使用Corstone-300系统的默认配置运行。现在,Arm虚拟硬件AMI正在运行,并已确认可以执行微语音,让我们试试Arm ML嵌入式评估工具包。
要为Himax特定配置启用Arm虚拟硬件,MAC的数量应设置为64。这反映了Himax的配置,并提供了最佳的性能评估。更改MAC的数量应在软件编译步骤和Arm虚拟硬件执行步骤中完成。
连接到Arm虚拟硬件AMI时,clone示例项目。
git clone https://review.mlplatform.org/ml/ethos-u/ml-embedded-evaluation-kit
git submodule update --init
工具包中提供了完整的文档,但要开始使用Arm编译器构建64 Mac的所有示例,请输入:
./build_default.py --npu-config-name ethos-u55-64 --toolchain arm
构建脚本使用--accelerator config参数将MAC的数量传递给Vela编译器。创建一个cmake文件夹,其中包含bin子文件夹中的内置固件。
VHT-Corstone-300, -C cpu_core.ethosu.num_macs=64 -a <image.axf>
for example, -a ethos-u-img_class.axf for the image classification example
如果编译中使用的MAC数量与运行时的模型配置不匹配,则推理将失败,并出现NPU配置不匹配错误。必须检查生成和运行时的Mac数量是否相同。
由于Arm在AWS AMI上支持Arm虚拟硬件目标,因此开发人员很容易启动其嵌入式软件开发。开发人员可以使用默认配置或特定于客户的配置(如Himax),以便在芯片可用之前准备好嵌入式软件和机器学习软件。这缩短了物联网设备的整体上市时间。
我们希望更多Arm客户和Himax的客户能够在Arm虚拟硬件上运行更复杂的视觉和语音相关用例,并加快其软件和机器学习开发,以缩短其整体上市时间。
这是新的物联网演进的开始,以进一步加快物联网设备的采用,并在2030年达到1万亿台设备。
为了帮助开发者开始使用Arm虚拟硬件,AWS为首批1000名合格用户提供100多小时的免费AWS EC2 CPU积分。只需通过下面的链接填写表格,并确保输入您的12位AWS帐户ID。