基于稀疏化卷积网络剪枝的图像识别方法研究

作者：叶汉民; 李志波; 程小辉; 周颖慧

来源：实验室研究与探索, 2022, 41(12): 9-13.

DOI：10.19927/j.cnki.syyt.2022.12.003

• 非结构剪枝
• 稀疏性
• 掩码
• 准确度
• 模型压缩

为了搜索到在资源受限条件下图像识别最佳网络模型，提出一种基于非结构剪枝的稀疏性训练方法：(1)引入随机掩码进行网络初始化，根据设定的权重比例与稀疏度剔除较小权重；(2)增加同等数量随机权重，线性缩放权重保留比例且遍历网络模型中参数；(3)迭代剔除和增加权重训练，提高稀疏性训练效率，得到精简的网络模型。实验结果表明，该方法在基于公共数据集CIFAR10/100在较大剪枝率条件下(98%),采用ResNet及VGG架构时模型精度分别达到了89.27%和60.18%、92.76%和69.14%;在其他剪枝比例下仍能够保持高准确度。该方法可以有效解决模型中过参数化问题，可以应用于神经网络的模型压缩，实现先进神经网络在存储及计算能力相对较弱的嵌入式设备中的移植部署。

• 单位
  桂林理工大学