转载于：AI人工智能初学者
作者：ChaucerG

1 简介

Visual Transformer在各种计算机视觉应用中取得了具有竞争力的性能。然而，它们的存储、运行时的内存以及计算需求阻碍了在移动设备上的部署。在这里，本文提出了一种Visual Transformer剪枝方法，该方法可以识别每个层中通道的影响，然后执行相应的修剪。通过促使Transformer通道的稀疏性，来使得重要的通道自动得到体现。同时为了获得较高的剪枝率，可以丢弃大量系数较小的通道，而不会造成显著的损害。

Visual transformer修剪的流程如下:

1. Training with sparsity regularization
2. Pruning channels
3. Finetuning

在ImageNet数据集上验证了该算法的有效性。

2 Approach

图1 Visual transformer Pruning

2.1 复杂度分析

2.2 ViT剪枝

所提出的visual transformer pruning(VTP)方法为slim visual transformer提供了一种简单而有效的方法。

3 Experiments

3.1 ImageNet-100

3.2 ImageNet-1K

4 参考

[1].Visual Transformer Pruning

推荐阅读

• 解析 Token to Token Vision Transformer
• EagleEye：一种用模型剪枝的快速衡量子网络性能的方法
• 论文 | 不平衡样本中实现重叠红细胞分类与计数

更多嵌入式AI技术干货请关注嵌入式AI专栏。