基于注意力机制的LSTM长江汛期水位预测方法研究

作者:王迎飞; 黄应平; 肖敏; 熊彪; 周爽爽; 靳专
来源:三峡大学学报(自然科学版), 2022, 44(03): 13-19.
DOI:10.13393/j.cnki.issn.1672-948x.2022.03.003

摘要

为提高长短期记忆网络(Long Short-Term Memory, LSTM)在水位预测任务中的准确性,以及提高LSTM对数据中时空信息的利用率,本文提出了一种基于Softmax函数的注意力模块,并将其应用在LSTM的输入前,使模型可以根据输入数据中的时间和空间信息,自主地生成带有权重的词义向量,并赋予输入序列时间和空间注意力权重值.注意力机制增强了LSTM模型对时间序列的处理能力,同时使LSTM模型能够对数据空间信息具备一定的应对能力.最后在长江汛期的水位数据上进行预测试验,以EMAE、ERMSE、EMAPE和R2作为评价指标,将所提出的模型与原始LSTM模型进对比,同时分析了权重分布情况.结果表明,该模型对水位预测的精度有明显提升,应用了时空注意力机制的LSTM(AT-LSTM)相比于原始LSTM,EMAE、ERMSE和EMAPE分别降低了21.77%、31.15%和17.4%,R2提高了9.69%.

全文