多函数激活的拉普拉斯深度回声状态网络

作者：廖永波; 李红梅

来源：计算机应用研究, 2020, (09): 2591-2594+2624.

DOI：10.19734/j.issn.1001-3695.2019.02.0156

• 深度回声状态网络
• 激活函数
• 拉普拉斯特征映射
• 遗传算法 deep echo state network
• activation function
• Laplacian eigenmaps
• genetic algorithm

结合可变激活函数、降维算法和深度回声状态网络,针对新的神经网络模型进行了研究。其中可变激活函数是多函数的线性组合,可以通过调整系数来改变激活函数的非饱和区;拉普拉斯特征映射降维算法通过降低储层状态矩阵的维度来改善原网络面临的病态、不适定问题;还使用了遗传算法来寻找最佳目标子空间维度。仿真分析从扰动影响、转换稳定性、时序预测和记忆容量四个方面进行,从仿真结果(新模型的记忆容量是深度回声状态网络的两倍,均方根误差比回声状态网络小42%)来看,新模型的记忆容量、预测精度都得到了显著改善。

• 单位
  电子科技大学