基于单隐层前馈神经网络的优化算法

作者：李娜; 刘冰; 王伟

来源：科学技术与工程, 2019, 19(01): 136-141.

• 前馈神经网络
• 神经网络训练
• 进化算法
• 遗传算法

前馈神经网络是神经网络中最常用的函数近似技术。根据普适定理,单隐层前馈神经网络(a single-hidden layer feedforward neural network,SFNN)可以任意接近相应的期望输出。一些研究人员使用遗传算法(genetic algorithms,GAs)探索FNN结构的全局最优解。然而,使用GAs来训练SFNN是相当费时。提出了一种新的SFNN优化算法。该方法是基于凸组合算法(convex combination algorithm,CCA)在隐含层上分析信息数据。事实上,该技术是将分类遗传演算法结合交叉策略的GAs算法。改进方法比GAs算法性能更优,但在进行学习和遗传演算前需要大量预处理工作如将数据分解为二进制代码。同时设置一个新的误差函数量化SFNN性能、获得连接权值最优选项以直接解决非线性优化问题。采用几个计算实验验证改进算法,结果表明改进方法更适合寻找单隐含层SFNN的最优权重。

• 单位
  安阳工学院; 安阳师范学院; 哈尔滨工业大学; 自动化学院