摘要
为提高长短期记忆网络(Long Short-Term Memory, LSTM)在水位预测任务中的准确性,以及提高LSTM对数据中时空信息的利用率,本文提出了一种基于Softmax函数的注意力模块,并将其应用在LSTM的输入前,使模型可以根据输入数据中的时间和空间信息,自主地生成带有权重的词义向量,并赋予输入序列时间和空间注意力权重值.注意力机制增强了LSTM模型对时间序列的处理能力,同时使LSTM模型能够对数据空间信息具备一定的应对能力.最后在长江汛期的水位数据上进行预测试验,以EMAE、ERMSE、EMAPE和R2作为评价指标,将所提出的模型与原始LSTM模型进对比,同时分析了权重分布情况.结果表明,该模型对水位预测的精度有明显提升,应用了时空注意力机制的LSTM(AT-LSTM)相比于原始LSTM,EMAE、ERMSE和EMAPE分别降低了21.77%、31.15%和17.4%,R2提高了9.69%.
- 单位