极术社区
注册
首页
Top 专栏
开发平台
阿里云倚天
AVH on 百度云
龙蜥操作系统
Arm STEM 教育
星辰教学平台
读书
专题
问答
公开课
活动
注册 · 登录
▲
嵌入式AI
嵌入式端AI,包括AI算法在推理框架Tengine,MNN,NCNN,PaddlePaddle及相关芯片上的实现。欢迎加入微信交流群,微信号:aijishu20(备注:嵌入式)
关注专栏
管理
关注数
18710
内容数
1285
最新文章
AI学习者
· 5 天前
图解大模型计算加速系列:vLLM源码解析3,Prefix Caching
17
阅读 511
AI学习者
· 7月8日
窥探Triton的lower(二)
16
阅读 955
爱笑的小姐姐
· 7月2日
北理工提出 LTrack 双摄像头系统 | 专注于暗场景多目标跟踪,自动驾驶和夜间监控的福音!
4
阅读 2.8k
爱笑的小姐姐
· 1 天前
CUDA-MODE 第一课课后实战(上)
0
阅读 28
爱笑的小姐姐
· 2 天前
一文弄懂 LLM 结构化数据生成原理
1
阅读 40
AI学习者
· 2 天前
属于嵌入式和移动设备的轻量级 YOLO 模型 !
2
阅读 65
爱笑的小姐姐
· 4 天前
FP8 低精度训练:Transformer Engine 简析
0
阅读 479
爱笑的小姐姐
· 7月19日
CUDA-MODE课程笔记 第6课: 如何优化PyTorch中的优化器
0
阅读 394
爱笑的小姐姐
· 7月18日
RDRNet 如何优雅地实时语义分割 ?
1
阅读 2.4k
爱笑的小姐姐
· 7月17日
[LLM性能优化]聊聊长文本推理性能优化方向
15
阅读 1k
爱笑的小姐姐
· 7月16日
计算和内存基础(基于PMPP 书的第4-5章)
1
阅读 191
AI学习者
· 7月15日
超大模型加载转换Trick
7
阅读 3.1k
AI学习者
· 7月12日
kimi chat大模型的200万长度无损上下文可能是如何做到的?
0
阅读 3.8k
爱笑的小姐姐
· 7月11日
我爱DeepSpeed-Ulysses:重新审视大模型序列并行技术
1
阅读 3k
爱笑的小姐姐
· 7月10日
KV Cache优化: 层内和层间KV Cache共享
0
阅读 3k
爱笑的小姐姐
· 7月9日
图解大模型计算加速系列:分离式推理架构1,从DistServe谈起
1
阅读 2.8k
爱笑的小姐姐
· 7月5日
Llama也能做图像生成!港大字节推出开源自回归文生图模型,在线体验已开放
0
阅读 2.7k
AI学习者
· 7月4日
如何在 PyTorch 中 profile CUDA kernels
1
阅读 2.3k
爱笑的小姐姐
· 7月3日
TensorRT-LLM部署调优-指北
2
阅读 2.5k
AI学习者
· 7月1日
窥探Triton的lower(三)
1
阅读 3k
AI学习者
· 6月28日
窥探Trition的lower(一)
1
阅读 2.7k
爱笑的小姐姐
· 6月27日
MLIR_对自定义IR Dialect编写bufferization pass
1
阅读 3.1k
AI学习者
· 6月26日
How to Do the Paper/Talk Reviews
2
阅读 3.6k
爱笑的小姐姐
· 6月25日
SIMD 指令集与数据并行程序
4
阅读 390
AI学习者
· 6月24日
单处理器实现大规模计算能力的有效性
10
阅读 251
AI学习者
· 6月21日
FP8量化解读--8bit下最优方案?(一)
11
阅读 2k
AI学习者
· 6月20日
如何使用“LoRa”的方式加载ONNX模型:StableDiffusion相关模型 的C++推理
3
阅读 3k
爱笑的小姐姐
· 6月19日
手机流畅运行470亿大模型:上交大发布LLM手机推理框架PowerInfer-2,提速29倍
2
阅读 2.6k
AI学习者
· 6月18日
TransformerEngine代码走读
0
阅读 2.4k
爱笑的小姐姐
· 6月17日
60行代码加速20倍 NEON实现深度学习OD任务后处理绘框
3
阅读 395
爱笑的小姐姐
· 6月14日
BitsFusion 权重量化方法,使 UNet 模型体积减少一半,所有评估中超过了全精度模型 !
0
阅读 2.6k
爱笑的小姐姐
· 6月12日
GPTQ & SmoothQuant & AWQ 代码解析
1
阅读 2.7k
AI学习者
· 6月11日
LLM PTQ量化经典研究解析
1
阅读 4.2k
上一页
1
2
3
4
5
…
下一页
专栏作者
爱笑的小姐姐
7725 声望 · 18749 粉丝
AI学习者
11069 声望 · 6235 粉丝
棋子
13940 声望 · 4658 粉丝
下冰雹
6540 声望 · 1674 粉丝
小白会长
60 声望 · 0 粉丝
Jack-Cui
370 声望 · 4 粉丝
Xiaohang
80 声望 · 3 粉丝
云鹤
605 声望 · 1859 粉丝
nihui
585 声望 · 16 粉丝
AI老铁
2100 声望 · 879 粉丝
黎明灰烬
285 声望 · 2 粉丝
张新栋
1625 声望 · 12 粉丝
Rocky X
755 声望 · 2 粉丝
圈圈虫
777 声望 · 32 粉丝
梁德澎
755 声望 · 14 粉丝
派大星
2670 声望 · 18 粉丝
Hanson
110 声望 · 8 粉丝
杨二凯
1498 声望 · 28 粉丝
极术小姐姐
64602 声望 · 59851 粉丝
JackLi
2384 声望 · 39 粉丝
关注极术微信号
实时接收点赞提醒和评论通知
关注安谋科技学堂
实时获取安谋科技及 Arm 教学资源
关注安谋科技招聘
实时获取安谋科技中国职位信息
用户指南
·
用户协议
·
隐私政策
关于我们
·
联系合作
粤ICP备18004469号
粤公网安备 44030502008014号
版权所有 © 2024 极术社区
由
SegmentFault
提供技术支持
友情链接
安谋科技
安创空间
开源中国
InfoQ
边缘计算社区
21IC 电子网
HarmonyOS 技术社区
电子芯吧客
CSDN
全志在线
芒果派
深度强化学习实验室
LiveVideoStack
智东西