极术社区
注册
首页
Top 专栏
读书
专题
问答
公开课
活动
注册 · 登录
▲
嵌入式AI
嵌入式端AI,包括AI算法在推理框架Tengine,MNN,NCNN,PaddlePaddle及相关芯片上的实现。欢迎加入微信交流群,微信号:aijishu20(备注:嵌入式)
关注专栏
管理
关注数
18934
内容数
1438
最新文章
AI学习者
· 2024年08月01日
图解大模型计算加速系列:分离式推理架构2,模糊分离与合并边界的chunked-prefills
0
阅读 4.2k
爱笑的小姐姐
· 2024年07月30日
CUDA-MODE课程笔记 第7课: Quantization Cuda vs Triton
0
阅读 1.4k
爱笑的小姐姐
· 2024年07月26日
CUDA-MODE 第一课课后实战(上)
1
阅读 1.2k
爱笑的小姐姐
· 2024年07月25日
一文弄懂 LLM 结构化数据生成原理
2
阅读 1.2k
AI学习者
· 2024年07月24日
属于嵌入式和移动设备的轻量级 YOLO 模型 !
2
阅读 1k
爱笑的小姐姐
· 2024年07月23日
FP8 低精度训练:Transformer Engine 简析
0
阅读 2.8k
爱笑的小姐姐
· 2024年07月19日
CUDA-MODE课程笔记 第6课: 如何优化PyTorch中的优化器
0
阅读 1.3k
爱笑的小姐姐
· 2024年07月18日
RDRNet 如何优雅地实时语义分割 ?
1
阅读 3.4k
爱笑的小姐姐
· 2024年07月17日
[LLM性能优化]聊聊长文本推理性能优化方向
15
阅读 3.6k
爱笑的小姐姐
· 2024年07月16日
计算和内存基础(基于PMPP 书的第4-5章)
1
阅读 916
AI学习者
· 2024年07月15日
超大模型加载转换Trick
7
阅读 4k
AI学习者
· 2024年07月12日
kimi chat大模型的200万长度无损上下文可能是如何做到的?
0
阅读 6.1k
爱笑的小姐姐
· 2024年07月11日
我爱DeepSpeed-Ulysses:重新审视大模型序列并行技术
1
阅读 4.6k
爱笑的小姐姐
· 2024年07月10日
KV Cache优化: 层内和层间KV Cache共享
0
阅读 4.7k
爱笑的小姐姐
· 2024年07月09日
图解大模型计算加速系列:分离式推理架构1,从DistServe谈起
1
阅读 9.7k
爱笑的小姐姐
· 2024年07月05日
Llama也能做图像生成!港大字节推出开源自回归文生图模型,在线体验已开放
0
阅读 3.4k
AI学习者
· 2024年07月04日
如何在 PyTorch 中 profile CUDA kernels
1
阅读 3.3k
爱笑的小姐姐
· 2024年07月03日
TensorRT-LLM部署调优-指北
2
阅读 5.4k
AI学习者
· 2024年07月01日
窥探Triton的lower(三)
1
阅读 4.1k
AI学习者
· 2024年06月28日
窥探Trition的lower(一)
1
阅读 4.1k
爱笑的小姐姐
· 2024年06月27日
MLIR_对自定义IR Dialect编写bufferization pass
1
阅读 3.7k
AI学习者
· 2024年06月26日
How to Do the Paper/Talk Reviews
2
阅读 4.2k
爱笑的小姐姐
· 2024年06月25日
SIMD 指令集与数据并行程序
4
阅读 1.5k
AI学习者
· 2024年06月24日
单处理器实现大规模计算能力的有效性
10
阅读 963
AI学习者
· 2024年06月21日
FP8量化解读--8bit下最优方案?(一)
11
阅读 3.6k
AI学习者
· 2024年06月20日
如何使用“LoRa”的方式加载ONNX模型:StableDiffusion相关模型 的C++推理
3
阅读 3.7k
爱笑的小姐姐
· 2024年06月19日
手机流畅运行470亿大模型:上交大发布LLM手机推理框架PowerInfer-2,提速29倍
2
阅读 3.2k
AI学习者
· 2024年06月18日
TransformerEngine代码走读
0
阅读 3.4k
爱笑的小姐姐
· 2024年06月17日
60行代码加速20倍 NEON实现深度学习OD任务后处理绘框
3
阅读 893
爱笑的小姐姐
· 2024年06月14日
BitsFusion 权重量化方法,使 UNet 模型体积减少一半,所有评估中超过了全精度模型 !
0
阅读 3.3k
上一页
1
…
4
5
6
7
8
…
下一页
专栏作者
爱笑的小姐姐
7725 声望 · 18984 粉丝
AI学习者
11449 声望 · 12401 粉丝
棋子
13940 声望 · 4697 粉丝
下冰雹
6540 声望 · 1680 粉丝
小白会长
60 声望 · 0 粉丝
Jack-Cui
370 声望 · 4 粉丝
Xiaohang
80 声望 · 3 粉丝
云鹤
605 声望 · 1862 粉丝
nihui
735 声望 · 21 粉丝
AI老铁
2100 声望 · 898 粉丝
黎明灰烬
285 声望 · 2 粉丝
张新栋
1625 声望 · 12 粉丝
Rocky X
755 声望 · 2 粉丝
圈圈虫
777 声望 · 32 粉丝
梁德澎
755 声望 · 14 粉丝
派大星
2680 声望 · 18 粉丝
Hanson
110 声望 · 8 粉丝
杨二凯
1508 声望 · 29 粉丝
极术小姐姐
64602 声望 · 60159 粉丝
JackLi
2384 声望 · 40 粉丝
关注极术微信号
实时接收点赞提醒和评论通知
关注安谋科技学堂
实时获取安谋科技及 Arm 教学资源
关注安谋科技招聘
实时获取安谋科技中国职位信息
用户指南
·
用户协议
·
隐私政策
关于我们
·
联系合作
粤ICP备18004469号
粤公网安备 44030502008014号
版权所有 © 2025 极术社区
由
SegmentFault
提供技术支持
友情链接
安谋科技
安创空间
开源中国
InfoQ
边缘计算社区
21IC 电子网
HarmonyOS 技术社区
电子芯吧客
CSDN
全志在线
芒果派
深度强化学习实验室
智东西