基于滤波器特征图的全局秩感知神经网络模型压缩方法

作者:谢卫莹; 卢天恩; 张鑫; 雷杰; 李云松; 马纪涛
来源:2021-11-18, 中国, ZL202111373645.6.

摘要

本发明公开了一种基于滤波器特征图的全局秩感知神经网络模型压缩方法,解决了滤波器剪枝模型压缩方法人工成本高,剪枝效率低及稳定性差的问题,实现包括:获取图像数据并预处理;构建通用型卷积神经网络,设置超参数;选择损失函数及最优化算法;训练保存预训练模型;获取特征图平均秩;自适应学习参数矩阵;对滤波器重要性表示并排序;预训练模型剪枝、保存;微调网络模型,实现基于滤波器特征图的全局秩感知神经网络模型压缩。本发明采用“一次学习多次剪枝”,对滤波器全局排序、统一剪枝,无病态选择。剪枝效果、稳定性更好,大规模不同复杂度的网络剪枝效率高,不同边缘设备适应性好。用于计算、存储资源受限的边缘设备。