面向属性抽取的门控动态注意力机制

作者：程梦; 洪宇^*; 唐建; 张家硕; 邹博伟; 姚建民

来源：模式识别与人工智能, 2019, 32(02): 184-192.

DOI：10.16451/j.cnki.issn1003-6059.201902011

• 注意力机制
• 属性抽取
• 条件随机场
• 情感分析

在现阶段属性抽取研究中,现有注意力建模及训练较刚性(单句一次成型),而单句中不同词汇的上下文存在语境语义的差异,一致的注意力分布缺少动态的适应性.因此,文中提出面向属性抽取的门控动态注意力机制,利用双向长短时记忆网络捕获目标句中每个单词的隐层表示.在注意力模型处理词一级属性预测时,根据目标词及其上下文,计算适应该目标词的注意力分布向量,可以根据上下文的变化自动调整注意力权重的分配.借助门控调整注意力向量流向下一层神经元的信息量,最终使用条件随机场进行属性标记.应用2014-2016语义评估官方数据集验证文中方法的有效性,F1值均有所提高.

• 单位
  苏州大学