科研之友
微信
新浪微博
Facebook
分享链接
摘要
近年来,随着深度学习的不断发展,各类神经网络逐渐成为了图像识别、语音识别和自然语言处理等领域的最佳解决方案。模型在不断逼近更高精度的同时,其模型大小和参数数量也在成倍增长。这使得模型仅能在计算资源密集的集中式数据中心内运算,难以移植到移动端、嵌入式芯片或板卡中。考虑到许多智能识别算法的应用场景是在山区、荒郊等地,这些地区难以部署机房等基础服务设施,需要利用资源受限的设备执行运算。因此,优化网络模型,减小模型大小和参数数量,具有重要研究意义。本文针对边界未授权人员入侵检测场景,提出联合剪枝量化优化算法,首先通过将通道稀疏性作为模型训练目标的正则化项,对模型进行稀疏训练,在训练过程中自动完成通道剪枝。剪枝完成后,在保存模型的基础上进行比特量化。在模型大小减小72.5%的同时,优化后的模型分类准确率仅下降1.2%。
- 单位
