基于类间距离蒸馏的语义分割

作者：邓**; 王亚军; 隋立林^*; 孙国栋; 张正博

来源：计算机系统应用, 2023, 32(10): 235-241.

DOI：10.15888/j.cnki.csa.009276

• 知识蒸馏
• 语义分割
• 模型压缩

知识蒸馏被广泛应用于语义分割以减少计算量.以往的语义分割知识提取方法侧重于像素级的特征对齐和类内特征变化提取,忽略了对语义分割非常重要的类间距离知识的传递.为了解决这个问题,本文提出了一种类间距离提取方法,将特征空间中的类间距离从教师网络转移到学生网络.此外,语义分割是一个位置相关的任务,因此本文开发了一个位置信息提取模块来帮助学生网络编码更多的位置信息.在Cityscapes、Pascal VOC和ADE20K这3个流行的语义分割数据集上的大量实验表明,该方法有助于提高语义分割模型的精度,取得了较好的性能.

• 单位
  武汉大学测绘遥感信息工程国家重点实验室