时频域多尺度交叉注意力融合的时间序列分类方法

作者：王美; 苏雪松; 刘佳; 殷若南^*; 黄珊

来源：计算机应用, 2023, 1-9.

• 时间序列
• 注意力机制
• 位置编码
• 深度神经网络
• 多尺度融合

针对时间序列子序列间的潜在信息交互不足导致分类准确率低的问题，提出时频域多尺度交叉注意力融合的时间序列分类方法 TFFormer(Time-Frequency Transformer)。首先，将原始时间序列的时频域谱分别划分为等长子序列，经线性投影后加入位置信息解决时间序列的点值耦合问题；然后通过改进的多头自注意力模块使模型关注更重要的序列特征，解决长时间序列的前后依赖问题；最后，构造多尺度交叉注意力模块增强时间序列在时域和频域之间的信息交互，使模型进一步挖掘序列的频域信息。实验结果显示，相比于全卷积网络（Fully Convolutional Networks, FCN），提出的方法在Trace、StarLightCurves和UWaveGestureLibraryAll数据集上的分类准确率分别为100%、97.6%和92.3%，优于FCN的99.7%、96.7%和90.9%，证明了通过增强时间序列时域和频域间的信息交互，可以提高模型收敛速度和分类精度。

• 单位
  中国石油化工股份有限公司; 中国石油大学（华东）; 建筑工程学院