科研之友
微信
新浪微博
Facebook
分享链接
摘要
神经网络优化是机器学习领域的一个基础性前沿课题。相较于神经网络的纯梯度优化算法，非梯度算法在解决收敛速度慢、易陷入局部最优、无法解决不可微等问题上表现出更大的优势。在剖析基于梯度的神经网络方法优缺点的基础上，重点对部分非梯度优化方法进行了综述，包括前馈神经网络优化和随机搜索优化；从基本理论、训练神经网络的步骤以及收敛性等方面对非梯度优化方法的优缺点和应用情况进行了分析；总结了基于非梯度的训练神经网络的算法在理论和应用方面面临的挑战并且展望了未来的发展方向。
-
单位中国人民解放军陆军工程大学
