科研之友
微信
新浪微博
Facebook
分享链接
摘要
本文提出一种有效的神经网络剪枝方法。该方法对神经网络训练模型引入零模正则项来促使模型权重稀疏，并通过删减取值为零的权重来压缩模型。对所提出的零模正则神经网络训练模型，文中通过建立其等价MPEC形式的全局精确罚得到其等价的局部Lipschitz代理，然后通过用交替方向乘子法求解该Lipschitz代理模型对网络进行训练、剪枝。最后，对MLP和LeNet-5网络模型进行测试，分别在误差2.2%和1%下，取得97.43%和99.50%的稀疏度，达到很好的剪枝效果。
-
单位华南理工大学; 数学学院
