深度学习优化算法研究

作者：仝卫国; 李敏霞^*; 张一可

来源：计算机科学, 2018, 45(S2): 155-159.

• 深度学习
• 卷积神经网络
• 激活函数
• 正则化
• 超参数
• 优化算法

深度学习是机器学习领域热门的研究方向,深度学习中的训练和优化算法也受到了较高的关注和研究,已成为人工智能发展的重要推动力。基于卷积神经网络的基本结构,介绍了网络训练中激活函数和网络结构的选择、超参数的设置和优化算法,分析了各算法的优劣,并以Cifar-10数据集为训练样本进行了验证。实验结果表明,合适的训练方式和优化算法能够有效提高网络的准确性和收敛性。最后,在实际输电线图像识别中对最优算法进行了应用并取得了良好的效果。

• 单位
  华北电力大学