https:arxiv.org/abs/2211.06088
https://github.com/ChengpengChen/RepGhost
作者通过结构重参数机制实现特征复用,赋能GhostNet达成硬件友好方案RepGhostNet。ImageNet与COCO基线任务验证了所提方案的有效性与高效性。可参考下图,比MobileOne、MobileNeXt等轻量型架构都要“秀”!速览版请手下!
GhostNet通过引入cheap操作进行特征复用,但引入了硬件不友好的Concat,即Concat特征复用虽然是无参、无FLOPs,但其计算耗时却不能忽视,见上图。那么如何更高效的进行特征复用呢?结构重参数!!!
上图给出了Ghost到RepGhost的进化过程,包含以下三点:
- Concat替换为Add以降低耗时;
- ReLU迁移以符合重参数折叠机制;
- shortcut分支引入BN进一步提升非线性。
上图给出了Bottleneck改进过程:主要体现在通道数,这是因为Concat到Add的过渡会导致通道数发生变换。作者主要是针对中间通道数进行调整,而输入与输出通道数相同。
本文实验
下面两个表给出了ImageNet与COCO数据集上的性能对比,在轻量化方面RepGhost还是很不错的,Flops基本在300M以内。
来源:AIWalker
作者: Random
推荐阅读
- PP-YOLOE-R | 手把手教你将PP-YOLOE用于旋转目标检测,顺带达成SOTA性能!
- 重磅干货|低光图像处理方案
- VapSR | 手把手教你改进PAN,董超团队提出超大感受野注意力超分方案,已开源!
- 注入新机制,扩展DCNv3,探索视觉大模型,达成COCO新纪录64.5mAP!
本文章著作权归作者所有,任何形式的转载都请注明出处。更多动态滤波,图像质量,超分辨相关请关注我的专栏AIWalker。欢迎添加极术小姐姐微信(id:aijishu20)加入技术交流群,请备注研究方向。