基于Transformer重建的时序数据异常检测与关系提取

作者：孟恒宇; 李元祥

来源：计算机工程, 2020, 1-8.

DOI：10.19678/j.issn.1000-3428.00.EC0057092

• 时序数据
• 注意力机制
• 异常检测
• 关系提取
• 自动编码机 Time Series Data
• Attention Mechanism
• Anomaly Detection
• Relation Extraction
• Autoencoder

现有的时序异常检测手段计算效率低、理论可解释性差。Transformer在自然语言处理任务中表现出并行效率高、跨距离提取关系的优点,因此本文提出了一种基于Transformer的模型——Masked Time Series Modeling，使用mask机制提高重建准确率。在存储系统数据集和NASA航天器数据集上进行的实验表明，本文方法较基于LSTM方法节约了80%的计算时间，异常检测F1 score达到了0.78。同时，本文方法通过可视化关系矩阵，揭示了人为指令与异常的关系。

• 单位
  上海交通大学; 航天学院