嵌入式AI框架概览

AI学习者 · 2020年06月05日

移动端基于GPU推理的神经网络推理框架

人工智能技术这几年非常的火爆。神经网络算法可以在传统算法的极限上进一步突破，成为了各个算法领域做到顶级水平后继续研究升级的首要...

11 阅读 5.8k

张新栋 · 2020年03月05日

被低估的ArmNN（一）如何编译

ArmNN是一个性能十分强劲的inference框架，本文主要分享下对ArmNN的编译。首发：[链接]作者：张新栋

6 阅读 3.7k

张新栋 · 2020年03月10日

被低估的ArmNN（二）C++ 部署Mobilenet回归器

在专栏之前的文章，我们介绍过ArmNN，详情可参考被低估的ArmNN（一）如何编译。这里，我们给大家介绍如何使用ArmNN在Android设备上进行...

9 阅读 3.3k

IT大嘴巴 · 2022年04月26日

MLPerf世界纪录技术分享：优化卷积合并算法提升Resnet50推理性能

MLPerf是一套衡量机器学习系统性能的权威标准，将在标准目标下训练或推理机器学习模型的时间，作为一套系统性能的测量标准。MLPerf推理...

4 阅读 2.4k

派大星 · 2022年04月24日

端侧模型训练54分钟——完成声音网络模型调优

NeuralTalk 曾多次发布有关华为诺亚深度学习加速库 Bolt 的文章（见文末），为什么？因为在卷的过程中有自己的创新点。Bolt 在神经网络...

5 阅读 2k

爱笑的小姐姐 · 2020年03月17日

Tengine最新开源版本V1.12，全面提升CPU推理性能

自从Tengine 2017年底首次在GitHub尝试开放源代码，得到很多开发者的关注和肯定。2020年，为了让更多的开发者、企业使用真正可以使用AI...

18 阅读 3.2k

旷视研究院 · 2020年07月13日

最全解读 | 旷视天元Beta版核心技术升级全面解读

7 月 11 日，旷视研究院在 2020 WAIC · 开发者日「深度学习框架与技术生态论坛」上围绕 6 月底发布的天元深度学习框架（MegEngine）Beta...

4 阅读 1.7k

派大星 · 2020年02月27日

百度轻量深度学习推理引擎Paddle Lite，极致的 ARM CPU 性能优化

Paddle Lite为Paddle-Mobile的升级版，定位支持包括手机移动端在内更多场景的轻量化高效预测，支持更广泛的硬件和平台，是一个高性能、...

3 阅读 3.6k

AI学习者 · 2020年09月10日

AI框架的演进趋势和MindSpore的构想

MindSpore在3月底开源后，一直忙于功能完善和内外部的应用推广，现在终于有点时间可以停下来结合MindSpore的实践和团队一起总结对AI框架...

5 阅读 3k

派大星 · 2020年02月11日

阿里轻量级的深度神经网络推理引擎MNN

MNN是一个轻量级的深度神经网络推理引擎，在端侧加载深度神经网络模型进行推理预测。作者：开心的派大星首发：微信公众号：NeuroMem转自...

7 阅读 3k

派大星 · 2020年11月10日

MNN 1.1.0发布：CUDA后端/ASR模型支持/ARM CPU和GPU性能再提升/MNN工作台

几何计算是本次发布中大规模的框架重构。它将大部分算子的计算过程中与硬件后端无关部分（形状计算和几何计算）剥离出来，极大地降低了...

4 阅读 4.4k

nihui · 2020年07月22日

ncnn avx2/armv8.2 基础架构

2020年开始，新手机 CPU 几乎都是 armv8.2 架构，这个架构引入了新的 fp16 运算和 int8 dot 指令，优化得当就能大幅加速深度学习框架的...

10 阅读 3.8k

专题内容