“周易” NPU平台上部署Yolov4与MicroLlama模型详解

2024-09-05 周四 20:00 开播 回顾中 人气值 2.4k
课程简介

内容介绍

随着AI大模型加速向边缘侧和端侧渗透,NPU(神经网络处理器)因其更简洁的控制流及更高的能效比,成为处理AI工作负载的关键算力资源。安谋科技自研“周易” NPU面向大模型场景进行了架构、内存墙等多方面改进,能够显著提高AI应用开发的生产效率。本期极术公开课,安谋科技的两位技术专家将分别围绕Yolov4轻量级模型、MicroLlama模型进行深入分享,并详细介绍这两款模型如何在“周易” NPU平台上进行部署以及在SiRider S1芯擎开发板上运行。

内容大纲

  1. “周易” NPU及其软件工具链解读
  2. Yolov4轻量级模型部署及定量调整介绍
  3. 在SiRider S1芯擎开发板上运行Yolov4展示
  4. 主流大语言模型及端侧部署的特点分析
  5. 从PyTorch到“周易”NPU的模型部署详解

讲师介绍

image.png
强克家,安谋科技NPU产品算法工程师

强克家先生现任安谋科技NPU产品算法工程师,自2022年加入安谋科技以来,他在Stable Diffusion、Llama等大模型的量化调优工作中积累了丰富的经验。强克家先生拥有加州大学计算机科学技术专业学士学位,以及卡内基梅隆大学计算机工程硕士学位。

image.png

周生伟,安谋科技NPU算法工程师

周生伟先生现任安谋科技NPU产品算法工程师。自2019年加入安谋科技以来,他先后负责深度学习单算子量化算法调优、AI模型量化部署,以及大模型预研等工作,拥有丰富的AI智能算法和模型优化等相关经验。周生伟先生拥有东北大学计算机科学与技术专业学士学位及计算机软件与理论硕士学位。

PPT下载及回放

微信群

扫码加入活动群,与讲师嘉宾即时互动交流。
极术公开课.png

相关直播

关注数
14758
内容数
130
订阅极术公开课,即时获取最新技术公开课信息
极术微信服务号
关注极术微信号
实时接收点赞提醒和评论通知
安谋科技学堂公众号
关注安谋科技学堂
实时获取安谋科技及 Arm 教学资源
安谋科技招聘公众号
关注安谋科技招聘
实时获取安谋科技中国职位信息