内容一览:2023 Meet TVM 线下聚会第二站定档 6 月 17 日!这次我们设定了 5 个 Talk,期待和大家在北京中关村相聚!
关键词:编译器 线下活动 2023MeetTVM
本文首发自HyperAI超神经微信公众平台~
3 月 4 日, 2023 Meet TVM 首场线下活动在上海成功举办,百余位从事 AI 编译器开发、关注 TVM 发展的工程师齐聚五角场,进行了充分热烈的讨论和交流。
时隔 3 个多月,备受期待、千呼万唤的北京站线下聚会终于来了!本次活动我们邀请到了 5 位资深 AI 编译器专家,结合在实际场景中的应用案例和最佳实践,为现场的朋友带来精彩分享~
2023 Meet TVM 北京站活动信息
⏰ 时间:6 月 17 日(周六)14:00-18:00
📍 地点:海淀区海淀西大街 48 号车库咖啡
👬 人数: 100(座位有限,请尽早报名)
🙌🏻 报名: 扫描下方二维码报名(活动行及百格二选一)
活动行:
点击活动行链接报名https://www.huodongxing.com/e...
百格活动:
点击百格活动链接报名
https://www.bagevent.com/even...
📝 日程:
点击大图查看完整议程
分享嘉宾及内容简介
分享主题: 利用 MLC-LLM 把语言模型部署到任意设备
内容简介: 生成式人工智能和大型语言模型 (LLM) 领域取得了重大进展,它们具有卓越的能力和从根本上改变许多领域的潜力。目前,这些模型中的大多数都需要强大的算力和内存要求,无法部署在个人 PC、手机以及更小的端侧设备。MLC-LLM 通过编译技术,优化了运行速度和内存需求,使得端侧部署 LLMs 成为可能,为语言模型后续的发展提供的了新的基础设施。
观看本场分享,你将了解:
- 大模型部署中遇到的挑战
- 机器学习编译 (MLC) 技术在大模型场景中的作用
- MLC-LLM 背后的技术细节
分享主题: TVM at ARM China
内容简介: 随着 AI 应用的蓬勃发展,各种 NPU 芯片被应用在边缘端设备上加速 AI 应用,如何快速适配各机器学习框架及操作系统成为了难题。通过自身工具链与 TVM 的整合,ARM China 实现了图拆分、自动异构执行等多个实用功能,帮助客户快速部署 AI 应用到 ARM China Zhouyi NPU 芯片上。
观看本场分享,你将了解:
- ARM China Zhouyi NPU 简介
- 基于 BYOC 框架的图拆分及自动异构执行的实现
- TVM RPC 系统搭建及使用
- 商业质量的 TVM 发布方案
- 如何快速定位模型精度问题
分享主题:AI 异构编程及编译实践
内容简介:AI 芯片在朝着紧耦合异构的方向不断演进,芯片的可编程性和性能优化是业界一直在尝试解决的关键问题。本次分享将主要针对 AI 编译优化、可编程性等方面介绍地平线的一些实践,并针对一些关键问题和大家深入讨论。
观看本场分享,你将了解:
- AI 芯片架构的演进趋势
- AI 编译优化的一些实践经验
- AI 芯片可编程性的一些探索
分享主题: TVM at NIO
内容简介: 自动驾驶领域是一个挑战与机遇并存的领域,随着产品的迭代和用户对驾驶体验越来越高的要求,常见的 AI 引擎无法高效安全地支撑起复杂的产品生产线。我们基于 TVM 开发了 NIO 自研的 AI 编译器,解决了自动驾驶领域中一些常见的问题,并形成了系统化的解决方案和技术架构。此次分享来自蔚来汽车的孟通、陈曦、王璐璐 3 位工程师,会对其中涉及到的技术和架构进行细节上的说明。
观看本场分享,你将了解:
- 自动驾驶领域对模型编译与发布的特殊要求
- 如何使用 TVM 在不同机器学习系统/生态间进行协同优化
- 针对自动驾驶应用场景设计的定制化量化解决方案
- 如何使用 TVM 的特性构造高性能推理引擎
分享主题:动态神经网络编译优化
内容简介:动态神经网络与静态神经网络相比在准确性、计算效率和适应性方面显示出重要的优势。然而,现有的深度学习框架和编译器主要集中于优化具有确定执行的静态网络,错过了动态网络中的优化机会。优化动态网络的关键是追踪其中的数据流动。本次分享将介绍我们在动态神经网络编译方面的工作。
观看本场分享,你将了解:
- 动态网络编译优化的关键:次张量级别的数据追踪
- 更好的动态神经网络表达
- 神经网络中的动态编译优化机会
主办方及合作伙伴简介
作为本次活动的主办方,MLC.AI 社区 (https://mlc.ai/) 成立于 2022 年 6 月,并由 Apache TVM 主要发明者、机器学习领域著名的青年学者陈天奇,带领团队上线了 MLC 线上课程,系统介绍了机器学习编译的关键元素以及核心概念。
2022 年 11 月,在 MLC.AI 社区志愿者的共同努力下,首个完整的 TVM 中文文档上线,并成功托管至 HyperAI超神经官网,进一步为对机器学习编译感兴趣的国内开发者,提供了接触并学习一门新技术的基础设施——文档。
2023 年,社区将在全国多所城市上线「2023 Meet TVM」系列活动,欢迎企业及社区伙伴参与共创。
*MLC 线上课程:https://mlc.ai/
TVM 中文文档:https://tvm.hyper.ai/*
HyperAI超神经国内领先的人工智能及高性能计算社区,致力于为广大国内开发者提供数据科学领域的优质公共资源,截至目前已为 1200+ 公开数据集提供国内下载节点,支持 300+ 人工智能及高性能计算相关的词条查询,托管了完整的 TVM 中文文档,并即将上线多个基础及流行教程。
访问官网:https://hyper.ai/
OpenBayes贝式计算是国内领先的高性能计算服务提供商,通过为新一代异构芯片嫁接经典软件生态及机器学习模型,进而为工业企业及高校科研提供更加快速、易用的数据科学计算产品,其产品已被数十家大型工业场景或头部科研院所所采用。
车库咖啡是一个汇聚创业者的平台,以咖啡厅为依托,为初创企业提供一站式投融资综合解决方案,帮助项目方迅速融到资金,推动快速发展,同时提供创业辅导、资源对接、宣传报道等优质增值服务,并帮助投资人快速发现好项目,为其领投、跟投、资源输出、经验输出等提供依据,推动多层次的投资人群体协作发展。
考虑到本场活动的场地空间,我们仅开放了100 个到场名额,建议大家尽早报名锁定席位。
2023 Meet TVM 系列活动 Q2 相约北京,6 月 17 日,我们不见不散!
本文首发自HyperAI超神经微信公众平台~