林小北 · 2020年05月11日

1x1卷积核如何减少参数

符号定义:用 s 表示尺寸(size),用 c 表示通道数/维数(channel),用 i 、k、o 分别表示输入图像(input)、卷积核(kernel)、输出图像(output)。

考虑一般的卷积操作。

对于image.png 的输入图像,一个image.png卷积核的参数个数为 image.png

由于单个卷积核只产生image.png的输出,要得到 image.png的输出图像,需要image.png 个卷积核,总参数个数为image.png 。过程为:

image.png

1x1卷积核,实质上就是实现了升降维,即对输入图像的通道数/维度进行变化,即实现了以下过程:

image.png

现在考虑在上面的卷积操作之前加入1x1卷积核,也就是考虑以下的过程:

image.png

需要的参数个数为image.png

前后两次需要的参数数量比为 image.png

image.png

推荐阅读
关注数
3
内容数
11
尽量用简单的话把论文讲明白
目录
极术微信服务号
关注极术微信号
实时接收点赞提醒和评论通知
安谋科技学堂公众号
关注安谋科技学堂
实时获取安谋科技及 Arm 教学资源
安谋科技招聘公众号
关注安谋科技招聘
实时获取安谋科技中国职位信息