AVH 动手实践 (一) | 在 Arm 虚拟硬件上部署 PaddlePaddle 模型 - 极术社区

https://mp.weixin.qq.com/s/vM...

作者：Arm社区

本期，小编将带大家重温百度飞桨开发者说之“Arm 虚拟硬件平台的飞桨模型部署实战”直播课程的主要内容，与大家共同回顾在 Arm 虚拟硬件 (Arm Virtual Hardware, AVH) 上部署百度飞桨 (PaddlePaddle) 模型的端到端流程。

敲黑板划重点！本次课程也是首次展示如何将 PaddlePaddle 模型直接部署在含有 Arm Cortex-M 处理器 IP 的 AVH 平台上。百度与 Arm 的此次合作，填补了 PaddlePaddle 模型在 Cortex-M 硬件上的适配空白，为开发者提供了更多的部署方案，同时也增加了 Cortex-M 硬件上深度学习模型的模型数量，为开发者提供更多的选择。

本次直播课程内容主要涵盖以下五个部分：

第 1 部分课程概述

简要介绍在物联网时代下，深度学习应用在工业化落地过程中所面临的种种挑战，并详细分析 AVH 如何与 PaddlePaddle 相结合激发更高效的 MLOps 工作流，从而加速边缘侧机器学习应用的开发。

图 1：AVH 与 PaddlePaddle 相结合激发更高效的 MLOps 工作流

第 2 部分 PaddleDetection on Arm

针对计算机视觉领域的目标检测任务(Detection)，详细介绍百度飞桨的 PaddleDetection 开发套件的特点与优势，并深入讲解了 PP-PicoDet 模型如何与 Cortex-M 处理器适配的应用案例。

图 2：PaddleDetection 开发套件全景图

第 3 部分 PaddleOCR on Arm

针对计算机视觉领域的文字识别 (OCR)，详细介绍了百度飞桨的 PaddleOCR 开发套件的特点与优势，并深入讲解了 PP-OCRv3 模型如何与 Cortex-M 处理器适配的应用案例。

图 3：PaddleOCR 开发套件全景图

第 4 部分 TVMC 编译模型

简要介绍深度学习编译器 TVM 的基本概念以及其与 PaddlePaddle 前端、CMSIS-NN后端的适配，并说明如何借助 TVM 编译器完成对 PaddlePaddle 推理模型的编译转换，使其成为适配在 Cortex-M 处理器上运行的代码。

图 4：编译流程示意图

(了解 TVM 更多信息，请访问 https://tvm.apache.org)

第 5 部分 AVH 上完成模型部署

简要介绍 AVH 的特点与优势，并针对本次课程所使用的 Arm Corstone 和 Cortex CPU 虚拟硬件的功能特点、其与 Arm 处理器 IP 的关系以及目前所支持的虚拟硬件模型进行了进一步介绍。随后通过具体的演示环节，逐步向开发者直观演示了如何将 PP-OCRv3 中发布的英文识别模型 (完成算子适配后) 部署在 Arm Corstone-300 的虚拟硬件平台上 (内含 Arm Cortex-M55 处理器，Arm Ethos-U55 处理器及一些基本外设)。