摘要
针对之前知识蒸馏算法忽略了对背景的蒸馏以及未对前景的重要性进行区分的问题,提出一种用于平衡教师网络前景信息与背景信息的带权掩膜。通过对前景与背景的重要程度进行区分,保留部分背景知识帮助学生网络学习教师网络的泛化;对前景知识的重要程度进行区分,让学生网络知道学习的重点,更好学习教师网络的知识。基于Yolov3模型在COCO2017数据集上进行蒸馏训练,在模型参数量没有提升的前提下检测精度mAP从0.247提升到0.436。
-
单位中国航天科工集团公司