面向星上目标提取的卷积神经网络优化技术

作者：卢丹; 孙永岩; 郑幸飞^*; 齐保贵; 师皓

来源：上海航天(中英文）, 2021, 38(01): 105-112.

DOI：10.19328/j.cnki.1006-1630.2021.01.013

• 在轨应用
• 卷积神经网络
• 网络压缩
• 参数剪枝
• 知识蒸馏

针对卷积神经网络规模庞大、参数数量众多、在资源受限的在轨场景中难以应用的问题,提出了一种基于知识蒸馏的剪枝压缩改进方法。该方法对训练好的网络进行基于权重和基于通道的混合参数剪枝,在保留网络重要连接的同时剔除冗余信息;采用知识蒸馏法,用原始网络学到的知识指导剪枝后网络的再训练过程,以恢复损失的精度;在遥感数据集上对VGG-16分类网络进行实验。结果表明:所提方法可以实现16～18倍的压缩效果,并且网络精度下降不到1%。这使得卷积神经网络的在轨应用成为可能,具有理论及现实意义。

• 单位
  北京理工大学; 上海卫星工程研究所