基于大数据的并行化深度卷积神经网络优化算法

作者：毛伊敏; 张瑞朋; 曹文梁

来源：计算机应用研究, 2021, 38(05): 1416-1421.

DOI：10.19734/j.issn.1001-3695.2020.04.0112

• DCNN算法
• MapReduce框架
• CGMSE
• PFM策略
• LBRLA策略

针对并行DCNN算法在大数据环境下网络冗余参数过多、收敛速度慢和并行效率低的问题,提出了一种并行化深度卷积神经网络优化算法——PDCNNO(parallel deep convolutional neural networks optimization algorithm)。首先,该算法设计了基于特征图的剪枝策略(PFM),预训练网络,获得压缩后的网络,有效减少了冗余参数,降低了DCNN训练时间和空间复杂度;其次,设计了修正正割线的共轭梯度法(CGMSE),获取局部分类结果,实现了共轭梯度法的快速收敛,提高了网络的收敛速度;最后,在reduce阶段提出了控制负载率的负载均衡策略(LBRLA),获取全局分类结果,实现了数据的快速均匀分组,从而提高了并行系统的加速比。实验表明,该算法不仅降低了DCNN在大数据环境下训练的时间和空间复杂度,而且提高了并行系统的并行化性能。

• 单位
  东莞职业技术学院; 江西理工大学