基于自注意力机制的多特征融合槽抽取模型

作者：牛迪

来源：南京理工大学学报, 2022, 46(01): 69-75.

DOI：10.14177/j.cnki.32-1397n.2022.46.01.010

• 槽抽取
• 自注意力
• 双向长短期记忆模型
• 多特征融合

在任务型人机对话系统中，槽抽取任务是至关重要的一个环节。为了提高槽抽取模型的识别准确率，该文提出了一种利用自注意力机制融合文本的多特征维度特征的方法。该方法在常规的双向长短期记忆模型(Bi-directional long short-term memory, Bi-LSTM)和条件随机场(Conditional random field, CRF)的槽抽取模型基础框架之上，引入了自注意力机制融合多维度的特征，如意图特征、词特征、词典特征、字符特征等。通过融合这些特征，槽抽取模型的槽提取能力得到了提升。实验结果证明，该方法的槽抽取F1值能达到97.99%,比常规模型最大提升了3%。