针对深度卷积神经网络存在的过参数化问题，提出一种梯度追踪的结构化剪枝算法。在优化器步骤中选择梯度最大的滤波器，将其索引与参数幅值最大的滤波器索引合并，形成一个并集；根据上述并集更新模型参数；使用一种动态的滤波器选择方法，从而获得压缩后的模型。实验结果表明，采用梯度追踪的剪枝算法使用参数信息和梯度信息，能有效地剪除卷积神经网络的冗余参数。最后结论是，上述方法在压缩深度卷积神经网络的同时，能够更好地保持网络精度。
科研之友
微信
新浪微博
Facebook
分享链接
