本发明公开了一种神经网络模型辅助训练和参数压缩方法,包括以下步骤：1)、在需要被训练的神经网络模型中添加多个辅助训练模块,并将被训练的神经网络模型和辅助训练模块的输出串联起来得到输出；2)、扩展原样本标签,扩展后的N组标签与原来的标签一一对应；3)、将扩展后的标签N组标签分别设置不同的交叉熵权值,按照对应的权值,输入到交叉熵函数进行梯度反向传播；4)、选取其中的一个辅助训练模块取代被训练的神经网络模中对应的子模块,以实现模型的参数压缩。
科研之友
微信
新浪微博
Facebook
分享链接
