面向深度可分离卷积的硬件高效加速器设计

作者：许浩博; 王颖; 王郁杰; 张士长; 刘博生; 韩银和

来源：高技术通讯, 2021, 31(08): 791-799.

• 深度可分离(DS)卷积
• 加速器
• 低面积
• 低延迟
• 利用率

采用深度可分离(DS)卷积替代标准卷积已成为神经网络轻量化设计的趋势,但是由于深度可分离卷积不规则的数据维度和数据尺寸,现有卷积神经网络加速器在处理这类网络时计算并行度和计算单元(PE)利用率无法得到保证,导致加速器计算性能降低。针对这一问题,本文提出一种通道朝向的计算数据流,该数据流能够将数据维度不同的Depthwise卷积、Pointwise卷积和标准卷积在统一的数据流下展开运算。基于该数据流,设计了一款面向深度可分离卷积的加速器,该加速器采用统一的计算核心处理深度可分离卷积中各类卷积运算,在低面积开销下实现了高计算并行度。实验结果表明,与目前现有的深度可分离卷积加速器相比,该设计获得了 1.32倍处理速度和1.76倍面积效率的提升。

• 单位
  中国科学院大学; 中国科学院计算技术研究所