双特征融合注意力的方面情感分析模型

作者：李锦; 夏鸿斌; 刘渊

来源：计算机科学与探索, 2023, 1-15.

• 情感分析
• 自然语言理解
• 准注意力机制
• 上下文注意

方面情感分析旨在预测句子或文档中一个特定方面的情感极性，现阶段大部分的研究都是使用注意力机制对上下文进行建模。然而，目前情感分类模型在使用BERT模型计算表征之间的依赖关系抽取特征时，大多未根据不同的语境背景考虑上下文信息，而导致建模后的特征缺乏上下文的语境信息。同时，方面词的重要性未能得到充分的重视而影响模型整体分类的性能。针对上述问题，本文提出基于双特征融合注意力的方面情感分析模型（Dual Features Local-Global Attention with BERT，DFLGA-BERT），分别设计了局部与全局的特征抽取模块，充分捕捉方面词和上下文的语义关联。并将一种改进的“准”注意力添加到DFLGA-BERT的全局特征抽取器中，使模型学习在注意力的融合中使用减性注意力以削弱本文噪声产生的负面影响。基于条件层规泛化（Conditional Layer Normalization，CLN）设计了局部特征和全局特征的特征融合结构来更好地融合局部和全局特征。在SentiHood和SemEval 2014 Task 4数据集上进行了实验。实验结果表明，与基线模型相比本文模型在融入了上下文语境特征后取得了较明显的性能提升。

• 单位
  江南大学