利用遗传算法优化神经网络超参数（英文）

作者：Saeid NIKBAKHT; Cosmin ANITESCU; Timon RABCZUK^*

来源：Journal of Zhejiang University-Science A(Applied Physics & Engineering), 2021, 22(06): 407-426.

• 机器学习
• 神经网络
• 超参数
• 遗传算法

目的:证明超参数优化对深度能量方法(DEM)精度的影响以及DEM在预测不同荷载作用下梁和板等结构的应力分布方面的能力。创新点:1.为了提高DEM的准确性,各种超参数组合被输入遗传算法(GA)并找到最佳组合。2.为了防止重复计算以及提高这种元启发式算法的效率,GA过程中还考虑了超参数组合的禁忌列表。方法:1.实施非均匀有理样条(NURBS)以生成穿过结构体和边界的积分点。2.采用DEM计算位移和应力分布。3.利用遗传算法优化DEM的超参数,以对模型在预测结构内应力和位移传播的准确性方面具有显着影响。结论:1.在不同的优化器和激活函数中,Adam和L-BFGS-B方法以及Re LU2函数的组合使得DEM模型的准确率最高。2.其他对模型预测准确性有影响的超参数包括隐藏层的数量、每层神经元的数量以及通过上述结构集成的点数。3.优化DEM的超参数可以使相对应变能误差降低近50%,提高了DEM模型对应力和位移分布的预测能力。