极术社区
注册
首页
Top 专栏
开发平台
阿里云倚天
AVH on 百度云
龙蜥操作系统
Arm STEM 教育
星辰教学平台
读书
专题
问答
公开课
活动
注册 · 登录
▲
嵌入式AI
嵌入式端AI,包括AI算法在推理框架Tengine,MNN,NCNN,PaddlePaddle及相关芯片上的实现。欢迎加入微信交流群,微信号:aijishu20(备注:嵌入式)
关注专栏
管理
关注数
18835
内容数
1369
最新文章
爱笑的小姐姐
· 7月16日
计算和内存基础(基于PMPP 书的第4-5章)
1
阅读 591
AI学习者
· 7月15日
超大模型加载转换Trick
7
阅读 3.5k
AI学习者
· 7月12日
kimi chat大模型的200万长度无损上下文可能是如何做到的?
0
阅读 5.2k
爱笑的小姐姐
· 7月11日
我爱DeepSpeed-Ulysses:重新审视大模型序列并行技术
1
阅读 4k
爱笑的小姐姐
· 7月10日
KV Cache优化: 层内和层间KV Cache共享
0
阅读 3.8k
爱笑的小姐姐
· 7月9日
图解大模型计算加速系列:分离式推理架构1,从DistServe谈起
1
阅读 7k
爱笑的小姐姐
· 7月5日
Llama也能做图像生成!港大字节推出开源自回归文生图模型,在线体验已开放
0
阅读 3k
AI学习者
· 7月4日
如何在 PyTorch 中 profile CUDA kernels
1
阅读 2.7k
爱笑的小姐姐
· 7月3日
TensorRT-LLM部署调优-指北
2
阅读 3.9k
AI学习者
· 7月1日
窥探Triton的lower(三)
1
阅读 3.6k
AI学习者
· 6月28日
窥探Trition的lower(一)
1
阅读 3.5k
爱笑的小姐姐
· 6月27日
MLIR_对自定义IR Dialect编写bufferization pass
1
阅读 3.4k
AI学习者
· 6月26日
How to Do the Paper/Talk Reviews
2
阅读 3.9k
爱笑的小姐姐
· 6月25日
SIMD 指令集与数据并行程序
4
阅读 954
AI学习者
· 6月24日
单处理器实现大规模计算能力的有效性
10
阅读 648
AI学习者
· 6月21日
FP8量化解读--8bit下最优方案?(一)
11
阅读 2.8k
AI学习者
· 6月20日
如何使用“LoRa”的方式加载ONNX模型:StableDiffusion相关模型 的C++推理
3
阅读 3.4k
爱笑的小姐姐
· 6月19日
手机流畅运行470亿大模型:上交大发布LLM手机推理框架PowerInfer-2,提速29倍
2
阅读 3k
AI学习者
· 6月18日
TransformerEngine代码走读
0
阅读 2.9k
爱笑的小姐姐
· 6月17日
60行代码加速20倍 NEON实现深度学习OD任务后处理绘框
3
阅读 647
爱笑的小姐姐
· 6月14日
BitsFusion 权重量化方法,使 UNet 模型体积减少一半,所有评估中超过了全精度模型 !
0
阅读 3k
爱笑的小姐姐
· 6月12日
GPTQ & SmoothQuant & AWQ 代码解析
1
阅读 4.5k
AI学习者
· 6月11日
LLM PTQ量化经典研究解析
1
阅读 4.9k
爱笑的小姐姐
· 6月7日
PipeFusion:如何用PCIe互联GPU 低成本并行推理扩散模型
2
阅读 4.6k
AI学习者
· 6月6日
I-LLM:首次实现了LLM全整形量化,精度超过Smooth/Omini/AffineQuant
1
阅读 4.5k
爱笑的小姐姐
· 6月4日
原理&图解vLLM Automatic Prefix Cache首Token时延优化
2
阅读 4.6k
爱笑的小姐姐
· 5月31日
高效轻量级LLM | Imp模型,通过低比特量化分辨率实现高通骁龙8Gen3 芯片高性能部署 !
3
阅读 3.8k
AI学习者
· 5月30日
上交大、上海 AI 实验室、ViVO 推出 TerDiT ,极低比特量化感知训练和和高效部署方案 !
2
阅读 3.7k
AI学习者
· 5月29日
让量化大模型无损,IntactKV:保持关键词元无损,轻松提升量化精度!
3
阅读 2.7k
爱笑的小姐姐
· 5月28日
YOLOv10开源|清华用端到端YOLOv10在速度精度上都生吃YOLOv8和YOLOv9
1
阅读 2.9k
上一页
1
2
3
4
5
6
…
下一页
专栏作者
爱笑的小姐姐
7725 声望 · 18881 粉丝
AI学习者
11419 声望 · 10449 粉丝
棋子
13940 声望 · 4684 粉丝
下冰雹
6540 声望 · 1678 粉丝
小白会长
60 声望 · 0 粉丝
Jack-Cui
370 声望 · 4 粉丝
Xiaohang
80 声望 · 3 粉丝
云鹤
605 声望 · 1860 粉丝
nihui
585 声望 · 16 粉丝
AI老铁
2100 声望 · 893 粉丝
黎明灰烬
285 声望 · 2 粉丝
张新栋
1625 声望 · 12 粉丝
Rocky X
755 声望 · 2 粉丝
圈圈虫
777 声望 · 32 粉丝
梁德澎
755 声望 · 14 粉丝
派大星
2670 声望 · 18 粉丝
Hanson
110 声望 · 8 粉丝
杨二凯
1508 声望 · 29 粉丝
极术小姐姐
64602 声望 · 60025 粉丝
JackLi
2384 声望 · 40 粉丝
关注极术微信号
实时接收点赞提醒和评论通知
关注安谋科技学堂
实时获取安谋科技及 Arm 教学资源
关注安谋科技招聘
实时获取安谋科技中国职位信息
用户指南
·
用户协议
·
隐私政策
关于我们
·
联系合作
粤ICP备18004469号
粤公网安备 44030502008014号
版权所有 © 2024 极术社区
由
SegmentFault
提供技术支持
友情链接
安谋科技
安创空间
开源中国
InfoQ
边缘计算社区
21IC 电子网
HarmonyOS 技术社区
电子芯吧客
CSDN
全志在线
芒果派
深度强化学习实验室
LiveVideoStack
智东西