基于权值交互思想的卷积神经网络量化算法

作者：肖国麟; 杨春玲^*; 陈宇

来源：电子技术应用, 2020, 46(10): 39-41.

DOI：10.16157/j.issn.0258-7998.200263

• 三值量化
• 卷积神经网络
• 权值交互
• 模型压缩

传统的卷积神经网络量化算法广泛使用对称均匀量化操作对模型权值进行量化,没有考虑到相邻权值量化之间的相互关系,即上一个权值的量化操作产生的量化噪声可以通过调整之后权值的量化方向加以弥补。针对上述问题,提出了一种基于权值交互思想的三值卷积神经网络量化算法,达到了16倍的模型压缩比,以ImageNet作为数据集,量化后的AlexNet和ResNet-18网络上模型预测准确率只下降了不到3%。该方法达到了较高的模型压缩比,具有较高的精度,可以用于将卷积神经网络移植到计算资源有限的移动端平台上。

• 单位
  哈尔滨工业大学; 自动化学院