科研之友
微信
新浪微博
Facebook
分享链接
摘要
本发明公开了一种基于知识迁移的卷积神经网络通道自选择压缩与加速方法,包括步骤：S1、从已经训练好的复杂卷积神经网络CN1中提取迁移指导知识；S2、为目标卷积神经网络ON1的所有卷积层通道设置随机初始化的系数掩码；S3、将目标网络的每一个通道的输出设置为通道原始输出与对应的系数掩码的乘积；S4、在迁移指导知识的指导下优化目标网络,根据系数掩码进行通道软剪除,直至目标网络收敛后进行通道硬剪除。本发明方法可让网络自动选择应该剪除的通道,免去人工选择的操作,通过软剪除的操作和知识迁移的方法,保留了网络的表达容量以及提升了泛化性能,从而实现更高的压缩比和加速比。
- 单位
