基于并行双向门控循环单元与自注意力机制的中文文本情感分类

作者：崔昕阳; 龙华^*; 熊新; 邵玉斌; 杜庆治

来源：北京化工大学学报(自然科学版), 2020, 47(02): 115-123.

DOI：10.13543/j.bhxbzr.2020.02.016

• 双向门控循环单元
• 词向量
• 自注意力机制
• 情感分类

在基于深度学习的文本情感分类研究领域中,目前传统的模型主要是序列结构,即采用单一的预训练词向量来表示文本从而作为神经网络的输入,然而使用某一种预训练的词向量会存在未登录词和词语语义学习不充分的问题。针对此问题,提出基于并行双向门控循环单元(gated recurrent unit,GRU)网络与自注意力机制的文本情感分类模型,利用两种词向量对文本进行表示并作为并行双向GRU网络的输入,通过上下两个通道分别对文本进行上下文信息的捕捉,得到表征向量,再依靠自注意力机制学习词语权重并加权,最后对两个通道的输出向量进行向量融合,作为输入进入全连接层判别情感倾向。将本文模型与多个传统模型在两个公共数据集上进行实验验证,结果表明本文模型在查准率、查全率、F1值和准确率等性能指标上相比于双向门控循环单元网络模型、双向长短时记忆网络模型和双向门控循环单元网络与自注意力机制的单通道网络模型均有所提升。

• 单位
  昆明理工大学; 自动化学院