为了提高训练后量化模型的性能,提出一种基于离群值去除的模型训练后量化预处理方法。该方法仅通过排序、比较等简易的操作,实现权重、激活值的离群值去除,使模型在量化时仅损失少量的信息,从而提升量化模型的精度。实验结果表明,在使用不同的量化方法前,采用所提方法进行预处理,可显著地提升性能。
科研之友
微信
新浪微博
Facebook
分享链接
