面向存算一体芯片的非极大值抑制算法的量化部署

作者：兰宝星; 汤龙杨; 吴仕龙; 王世伟; 黄斌^*

来源：数字技术与应用, 2023, 41(10): 1-27.

DOI：10.19695/j.cnki.cn12-1369.2023.10.01

<正>近年来，一种基于神经网络的非极大值抑制算法取得了媲美传统非极大值抑制算法的结果，并因其主要采用卷积算子和全连接算子而有望部署于存算一体芯片上。然而，目前以新型阻变存储器（RRAM）为代表的存算一体芯片大多只能支持5比特以下的位宽，基于神经网络的非极大值抑制算法能否在低位宽的存算一体芯片上获取同等性能仍待研究。本文运用量化感知训练和后训练量化等方法，旨在探究低位宽对基于神经网络的非极大值抑制算法的影响。采用5比特位宽的量化感知训练方法，在MS COCO数据集的行人检测任务（Person Detection）数据集下，mAP为62.71；在MS COCO多类别（multi-class）检测任务下，mAP和multiclass＿ap分别为40.66和44.86，精度损失较小，为在低位宽存算一体芯片上部署目标检测算法奠定了基础。