摘要
针对数据敏感性场景下模型量化存在数据集不可用的问题,提出了一种不需要使用数据集的模型量化方法。首先,依据批归一化层参数及图像数据分布特性,通过误差最小化方法获得模拟输入数据;然后,通过研究数据舍入特性,提出基于损失最小化的因子动态舍入方法。通过对GhostNet等分类模型及M2Det等目标检测模型进行量化实验,验证了所提量化方法对图像分类及目标检测模型的有效性。实验结果表明,所提量化方法能够使模型大小减少75%左右,在基本保持原有模型准确率的同时有效地降低功耗损失、提高运算效率。
-
单位信息工程大学; 东南大学