摘要
针对BP神经网络自身的一些局限性,诸如易陷于局部极小、网络收敛速度慢、训练时间长等,提出一种改进BP神经网络的研究方案,通过改变传统的固定学习率,引入动态变化,根据均方误差的变化而改变学习率。在误差曲面平坦区域增大学习率,在误差变化剧烈的区域减小学习率,从而加快算法的收敛速度,避免陷入局部极小值。文中在传统BP神经网络中使用动态学习速率,并融合参数可调激活函数来改进BP神经网络。采用公认完备、性能优异的KDD Cup99数据集,分别对改进算法和传统BP算法进行了对比实验。实验结果表明,与传统BP神经网络算法相比,改进算法极大地提高了训练速度,具有训练误差更小、预测精度更高的优点。
- 单位