上一篇文章 【SiRiderS1芯擎工业开发板测评】开箱体验:S1配套NPU工具链测评 ,我们已经安装好了交叉编译工具链,gcc-linaro-7.5.0-2019.12-x86_64_aarch64-linux-gnu本文尝试通过CPU方式运行gemma-2B。
要想成为一款开发者/厂商心目中“优秀”的开发板,除了具备合理的硬件选型、做工和配套硬件资源等硬性条件,还必须拥有成熟可靠的开发环境。S1以AI和NPU作为卖点,这里重点对NPU工具链进行测评。
作为一个精通多种移动端AI框架(TFLite、AndroidNNAPI、NeuroPilot、SNPE、Huawei HiAI Foundation、ARM周易NPU等)的高级AI框架工程师(俗称调包侠/API调用狗/部署狗),怀着忐忑的的心情申请(俗称白piao)到了CSK6开发板;
聆思科技官方专栏,专注AIOT芯片,持续分享有趣的解决方案。商务合作微信:listenai-csk 技术交流QQ群:825206462
自2020年首款安谋科技研发的全新AI处理器单元“周易”NPU正式在R329芯片商用后, 安谋科技陆续推出多款高性能NPU产品。目前安谋科技周易NPU系列产品,覆盖小于1Tops至上百Tops算力范围,在智能座舱和ADAS、移动客户端、边缘服务器、AIoT等应用场景均有实际商用。
继周易AIPU SDK 公测版开放以来,很多AIoT工程师们积极申请仿真评测。为了让大家充分利用周易AIPU SDK来开发AI应用,AIPU技术团队开放了AI模型库Model-Zoo,含检测,分类,分割和语音等AI模型,让工程师可以快速开发基于周易 AIPU 的算法,优化和部署人工智能应用。
在过去的 PC 时代,为了提升算力,往往采用优化 CPU 架构设计,加上演进工艺制程的方式。而进入了移动互联网时代后,又增加了对 GPU 架构设计的优化,来实现算力提升。比如 Arm 就曾通过这种方式,把第一代 iPhone 到 iPhone 12 手机的算力提升了 280 倍。
本教程以搭载安谋科技“周易”(Arm China “Zhouyi”) NPU的“全志R329”开发板为例,介绍如何使用Paddle2ONNX模型转换工具将飞桨模型(以ResNet50为例)转换为ONNX模型,然后通过“周易”的AIPU工具将ONNX模型转换成.bin格式的模型,并在R329上部署。最后我们将会使用“周易”的Demo运行查看ResNet50模型在R329上的运行效果。
近日,一位社区大佬将一个AI画山水画的开源项目移植到全志V853开发板上。这个项目仅用不到5000行代码,就实现了一个可以自动作画的“人工智能”,并且不需要调用任何第三方库。开源项目链接:https://bbs.aw-ol.com/topic/1715/
本次分享将介绍上海航芯采用安谋科技“星辰”STAR-MC1作为内核ACM32F403系列芯片应用算法方案无感FOC磁链观测器。受益于高性能内核、Flash加速器及eFlash,F403可以适配各种无感FOC算法。
订阅极术社区线上线下活动,包括技术沙龙,赠书活动,开发板申请等
订阅极术公开课,即时获取最新技术公开课信息
嵌入式端AI,包括AI算法在推理框架Tengine,MNN,NCNN,PaddlePaddle及相关芯片上的实现。欢迎加入微信交流群,微信号:aijishu20(备注:嵌入式)
Arm相关的技术博客,提供最新Arm技术干货,欢迎关注