极术社区
注册
首页
Top 专栏
开发平台
阿里云倚天
AVH on 百度云
龙蜥操作系统
Arm STEM 教育
星辰教学平台
读书
专题
问答
公开课
活动
注册 · 登录
▲
嵌入式AI
嵌入式端AI,包括AI算法在推理框架Tengine,MNN,NCNN,PaddlePaddle及相关芯片上的实现。欢迎加入微信交流群,微信号:aijishu20(备注:嵌入式)
关注专栏
管理
关注数
18777
内容数
1331
最新文章
爱笑的小姐姐
· 8月28日
【PyTorch 奇淫技巧】Python Custom Operators翻译
0
阅读 308
爱笑的小姐姐
· 8月27日
LLM101N:用C++实现micrograd,手把手从零教你
2
阅读 283
爱笑的小姐姐
· 8月26日
超越Yolov8/Yolov9,用Hyper图方法释放YOLO系列的所有潜能 !
0
阅读 307
AI学习者
· 8月23日
【翻译】使用 Triton 核心加速 Llama3 FP8 推断
0
阅读 293
爱笑的小姐姐
· 8月20日
CUDA-MODE课程笔记 第9课: 归约(也对应PMPP的第10章)
1
阅读 309
AI学习者
· 8月19日
TensorRT-LLM初探(三)最佳部署实践
1
阅读 493
AI学习者
· 8月16日
CAS-ViT 提升图像分类、目标检测、语义分割等任务性能,可部署到手机端!!
0
阅读 474
爱笑的小姐姐
· 8月15日
H100 vs. A100 和 4090 vs. A10 实测性能(一)算力篇
0
阅读 2.5k
爱笑的小姐姐
· 8月13日
vLLM源码之PagedAttention
0
阅读 519
AI学习者
· 8月12日
大模型训练:Megatron-Kwai中的内存优化
0
阅读 371
爱笑的小姐姐
· 8月8日
LLM101n 硬核代码解读:Micrograd,一个轻量级的自动微分引擎
0
阅读 389
AI学习者
· 8月6日
CUDA-MODE课程笔记 第8课: CUDA性能检查清单
0
阅读 381
爱笑的小姐姐
· 8月2日
高分辨率图像上的高效小目标检测,大幅超越现有最先进检测器 !
1
阅读 411
AI学习者
· 8月1日
图解大模型计算加速系列:分离式推理架构2,模糊分离与合并边界的chunked-prefills
0
阅读 1.2k
爱笑的小姐姐
· 7月30日
CUDA-MODE课程笔记 第7课: Quantization Cuda vs Triton
0
阅读 491
爱笑的小姐姐
· 7月26日
CUDA-MODE 第一课课后实战(上)
1
阅读 454
爱笑的小姐姐
· 7月25日
一文弄懂 LLM 结构化数据生成原理
1
阅读 482
AI学习者
· 7月24日
属于嵌入式和移动设备的轻量级 YOLO 模型 !
2
阅读 403
爱笑的小姐姐
· 7月23日
FP8 低精度训练:Transformer Engine 简析
0
阅读 1.1k
爱笑的小姐姐
· 7月19日
CUDA-MODE课程笔记 第6课: 如何优化PyTorch中的优化器
0
阅读 741
爱笑的小姐姐
· 7月18日
RDRNet 如何优雅地实时语义分割 ?
1
阅读 2.7k
爱笑的小姐姐
· 7月17日
[LLM性能优化]聊聊长文本推理性能优化方向
15
阅读 1.9k
爱笑的小姐姐
· 7月16日
计算和内存基础(基于PMPP 书的第4-5章)
1
阅读 449
AI学习者
· 7月15日
超大模型加载转换Trick
7
阅读 3.4k
AI学习者
· 7月12日
kimi chat大模型的200万长度无损上下文可能是如何做到的?
0
阅读 4.6k
爱笑的小姐姐
· 7月11日
我爱DeepSpeed-Ulysses:重新审视大模型序列并行技术
1
阅读 3.6k
爱笑的小姐姐
· 7月10日
KV Cache优化: 层内和层间KV Cache共享
0
阅读 3.4k
爱笑的小姐姐
· 7月9日
图解大模型计算加速系列:分离式推理架构1,从DistServe谈起
1
阅读 5k
爱笑的小姐姐
· 7月5日
Llama也能做图像生成!港大字节推出开源自回归文生图模型,在线体验已开放
0
阅读 2.9k
AI学习者
· 7月4日
如何在 PyTorch 中 profile CUDA kernels
1
阅读 2.6k
上一页
1
2
3
4
5
…
下一页
专栏作者
爱笑的小姐姐
7725 声望 · 18817 粉丝
AI学习者
11384 声望 · 8867 粉丝
棋子
13940 声望 · 4672 粉丝
下冰雹
6540 声望 · 1678 粉丝
小白会长
60 声望 · 0 粉丝
Jack-Cui
370 声望 · 4 粉丝
Xiaohang
80 声望 · 3 粉丝
云鹤
605 声望 · 1860 粉丝
nihui
585 声望 · 16 粉丝
AI老铁
2100 声望 · 887 粉丝
黎明灰烬
285 声望 · 2 粉丝
张新栋
1625 声望 · 12 粉丝
Rocky X
755 声望 · 2 粉丝
圈圈虫
777 声望 · 32 粉丝
梁德澎
755 声望 · 14 粉丝
派大星
2670 声望 · 18 粉丝
Hanson
110 声望 · 8 粉丝
杨二凯
1508 声望 · 29 粉丝
极术小姐姐
64602 声望 · 59943 粉丝
JackLi
2384 声望 · 40 粉丝
关注极术微信号
实时接收点赞提醒和评论通知
关注安谋科技学堂
实时获取安谋科技及 Arm 教学资源
关注安谋科技招聘
实时获取安谋科技中国职位信息
用户指南
·
用户协议
·
隐私政策
关于我们
·
联系合作
粤ICP备18004469号
粤公网安备 44030502008014号
版权所有 © 2024 极术社区
由
SegmentFault
提供技术支持
友情链接
安谋科技
安创空间
开源中国
InfoQ
边缘计算社区
21IC 电子网
HarmonyOS 技术社区
电子芯吧客
CSDN
全志在线
芒果派
深度强化学习实验室
LiveVideoStack
智东西