在模型大小上,默认FP32精度下(.pth)文件大小为 1.04~1.1MB,推理框架int8量化后大小为 300KB 左右。
本文介绍如何利用推理框架Tengine使用C语言在Khadas VIM3 CPU上部署 MobileNet v1 分类网络模型,实现指定图片分类的功能。
各位EAIDK小伙伴们大家好,近期有小伙伴反馈,EAIDK使用dnf install安装软件出现“Error: Failed to synchronize cache for repo 'update...
Tengine 组负责模型转换工具的小伙伴愉快的开始支持 PaddlePadde 2.0 的静态图模型。
AutoKernel作为一个自动算子优化工具,已于2020年11月30日在GitHub正式开源,受到开发者广泛好评,时隔5个月,开发者们又给大家带来了新...
今天我们试着基于 AI 边缘计推理框架 Tengine 在 Khadas VIM3 的 AI 加速器上部署 YOLOv5s。
今天给大家介绍一下在Khadas VIM3上进行NPU加速(支持在X86\_64上模拟),有关Tengine请参考Tengine的入门教程,文中需要的模型文件与测试...
2020年以来由于特殊的国际环境的影响下,原本在 AI边缘计算占有绝对优势的海思平台Hi35xx系列SoC 最终一货难求,导致国内其他AI SoC平台...
2020年以来由于特殊的国际环境的影响下,原本在 AI边缘计算 占有绝对优势的海思平台 Hi35xx 系列 SoC 最终一货难求,导致国内其他 AI So...
Tengine框架在最近\支持了GPU上通过CUDA或TensorRT加速,那么今天阿chai就带着大家看看我们如何在NVIDIA的嵌入式设备中使用Tengine框架...
文章转载于: Tengine开发者社区作者:小O妹AutoKernel系列教程- GEMM调度策略优化指南 -本期教程将演示如何通过调度策略,在x86 CPU上把g...
文章转载于: Tengine开发者社区作者:小O妹AutoKernel系列教程- Halide调度策略 -本期教程将讲解以下schedules。每个schedule除了给出C语...
文章转载于: Tengine开发者社区作者:小O妹AutoKernel系列教程- Plugin插件指南 -在本期教程中,我们将会介绍AutoKernel Plugin是什么,A...
文章转载于: Tengine开发者社区作者:小O妹AutoKernel系列教程- Halide初体验 -在深入了解Halide之前,我们先来体验一下Halide的黑魔法。...
文章转载于: Tengine开发者社区作者:小O妹AutoKernel系列教程- Tengine快速入门 -Tengine是一个轻量级深度神经网络推理引擎。本文档将在...
文章转载于: Tengine开发者社区作者:小O妹AutoKernel系列教程- 开发环境快速入门 -在此教程中,我们将会介绍如何安装/配置AutoKernel的...
随着AI技术的快速发展,深度学习在各个领域得到了广泛应用。深度学习模型能否成功在终端落地应用,满足产品需求,一个关键的指标就是神...
作为国内最早和OpenCV建立合作的公司,小O妹所在的公司OPEN AI LAB配合本次OpenCV V4.5.0的迭代,将集成到OpenCV的Tengine也同步进行了...
第一步,老样子,先跑去抖音找一个漂亮妹妹的跳舞视频,这次不一样了,是视频呢!第二步,拆解视频。怎么去拆解视频呢,这里就用到一个...
背景2020年风云变幻,原本以为嵌入式端侧 AI 芯片“大菊已定”。但国内最大智能电视芯片厂商——晶晨半导体(Amlogic)却在从2019年开始,陆...