图像识别中的深度学习模型剪枝技术

作者：张玉; 武海^*; 林凡超; 黄福玉; 刘毅志

来源：南京理工大学学报, 2023, 47(05): 699-707.

DOI：10.14177/j.cnki.32-1397n.2023.47.05.018

• 深度学习
• 图像识别
• 模型剪枝
• 特征图的和值期望

为了探索用少量的图像数据指导模型剪枝，同时缩短确定裁剪哪些卷积核的时间，该文提出了一种基于卷积核输出特征图的和值的期望进行模型剪枝的策略。将少量的图像输入剪枝前的深度学习模型中，将同一层卷积核输出的特征图根据和值的期望进行排序，按照一定的剪枝率剪去较小期望值对应的卷积核。根据该文提出的模型剪枝策略，在3个通用的公开数据集CIFAR-10、CIFAR-100、ILSVRC-2012上进行了测试，并与目前主流的一些模型剪枝算法进行了对比。实验证明，该文提出的模型剪枝策略在VGG-16-BN上参数量压缩87.3%,每秒浮点运算次数(FLOPs)压缩78.6%,该模型在CIFAR-10上仍能达到93.19%的分类识别精度。在CIFAR-100数据集上，模型剪枝策略在ResNet-56上FLOPs压缩67%,仍能达到67.96%的分类识别精度。

• 单位
  湖南科技大学; 中国科学技术大学; 郑州师范学院