46

极术小姐姐 · 2022年11月16日 · 广东

安谋科技“周易”NPU软件开源项目正式上线,解决你的“算法移植”焦虑

万物智联时代,NPU成为AI 算力需求“刚需”。身为算法攻城狮的你,是否还在为上层软件应用、算法开发的一系列难题“头秃”不已?市面上针对AI芯片推理侧的解决方案纷繁复杂,如何选择最适合自身硬件的软件工具?针对占据大部分工作量的“算法移植”,如何找到合适的工具以规避“重复造轮”.....

针对上述开发者在NPU研发上所遇到的共性问题,安谋科技近日发起“周易”NPU软件开源计划,通过开放源码,来满足客户更自主、更灵活的算法移植需求,携手更多开发者以及合作伙伴共建国内NPU产业生态。“周易”NPU是由安谋科技自研的一款面向人工智能的专用处理器,在物联网、智能终端、汽车等市场均有实际落地,已经形成一套完整的工具链及技术服务,可适配100多种算法。

在“周易”NPU软件开源计划下,安谋科技率先对外开放NPU中间表示层规范、模型解析器、模型优化器、驱动等,并提供免费的软件工具链,包括软件模拟器、调试器、C编译器。目前,安谋科技已开源其“周易”NPU软件工具Compass的前端,并在开源计划的第一阶段开放以下资源:

  • Compass解析器——解析器源代码和中间层表示规范;
  • NPU Linux驱动——更易在现有SoC上部署,并符合GPLv2协议;
  • Compass集成——提供“周易”NPU网络构造工具端到端验证环境;
  • 模型仓库——已验证的开源NN模型,便于测试和快速上手。

其中,Compass解析器的主要作用是将多种框架的模型转换成“周易”NPU的中间表示,开发者可以基于源码进行修改以适配更多神经网络模型。除了调试、验证解析器本身功能之外,开发者还可以在极术社区上免费获取软件工具链,进行算法模型端到端的调试和验证。如下图所示,Compass解析器不仅支持基于软件仿真器的调试和结果验证,还可以部署到内嵌“周易”NPU的芯片上进行测试和性能优化。
image.png

安谋科技已分别在代码托管平台Gitee、GitHub上建立该项目的开源库,开发者可以方便地在这些平台上获取资源。据悉,这只是“周易”NPU软件开源计划的第一步,安谋科技后续还将逐步开放更多资源,例如模型优化器、模型量化、算子实现等源代码。

截止目前,“周易”NPU软件开源计划已吸引第一批合作伙伴“入驻”,并收获入驻伙伴的集体点赞,其中不乏来自AIoT、智能汽车、智能操作系统等领域的明星企业。这些合作伙伴均表示将基于该计划与安谋科技继续深化合作,加速构建中国智能计算生态“朋友圈”。

项目链接

相关资源

推荐阅读
关注数
8342
内容数
15
安谋科技旗下首款AI产品周易NPU技术及应用公开课,技术干货等。如需咨询周易NPU合作,请邮件Eco-Partner@armchina.com。
目录
极术微信服务号
关注极术微信号
实时接收点赞提醒和评论通知
安谋科技学堂公众号
关注安谋科技学堂
实时获取安谋科技及 Arm 教学资源
安谋科技招聘公众号
关注安谋科技招聘
实时获取安谋科技中国职位信息