注意力机制的LSTM-DBN维语人称代词指代消解

作者：李东欣; 禹龙^*; 田生伟; 李圃; 赵建国

来源：计算机技术与发展, 2019, 29(07): 33-38.

• 人称代词
• 指代消解
• 词向量
• 注意力机制
• 深度信念网络
• 长短时记忆网络

针对维吾尔语中人称代词指代歧义问题,结合维吾尔语言的词法、语法、词间位置等关系,以及注意力机制、长短时记忆网络和深度置信网络,提出了一种维语人称代词指代消解模型。首先,分析维语中人称代词指代的特点和表达规律,提取出相应词向量特征;其次,借助长短时记忆网络挖掘维吾尔语人称代词的语义特征,并利用注意力机制的相似性度量、权重调节能力,避免信息在层间传递的丢失,实现特征编码向量的信息整合;最后利用深度置信网络(DBN)进一步挖掘出隐藏在维语上下文中的深层语义特征,完成维语人称代词指代消解。实验结果表明,所提模型在挖掘深层语义信息和识别效果上优于传统的深度学习模型,准确率达到了81.14%,F1达到了78.83%。

• 单位
  新疆大学