基于截断2-范数损失函数的鲁棒极限学习机

作者：张仕光; 郭迪; 冯歌; 刘洁晶^*

来源：山西大学学报(自然科学版), 2022, 45(01): 50-59.

DOI：10.13451/j.sxu.ns.2021061

• 神经网络
• 极限学习机
• 鲁棒
• 截断损失函数
• 迭代重赋权算法

在前馈神经网络学习中，极限学习机（Extreme Learning Machine,ELM）具有高效快速的优势。然而ELM采用的2-范数损失函数在许多实际应用中受异常值影响较大。文章采用截断思想，将2-范数损失函数进一步改进为能够限定最大损失为常数的截断2-范数损失函数，构建了基于截断2-范数损失函数的鲁棒ELM模型，依此来抑制噪声和异常值对模型的影响。采用拉格朗日乘子法和迭代重赋权算法对模型进行求解。最后在UCI数据集和实际风速数据集上验证所提出模型的有效性。实验结果表明，与现有回归算法相比该模型在噪声条件下表现出较大的优势，尤其是在添加了高斯噪声后的波士顿房价数据集上预测精度提高了25.42%。

• 单位
  衡水学院; 河南师范大学