基于注意力机制的卷积-双向长短期记忆模型跨领域情感分类方法

作者：龚琴^*; 雷曼; 王纪超; 王保群

来源：计算机应用, 2019, 39(08): 2186-2191.

• 情感分类
• 跨领域
• 迁移学习
• 注意力机制
• 长短期记忆网络

针对现有跨领域情感分类方法中文本表示特征忽略了重要单词的情感信息,且在迁移过程中存在负迁移的问题,提出一种基于注意力机制的卷积-双向长短期记忆(AC-BiLSTM)模型的知识迁移方法。首先,利用低维稠密的词向量对文本进行向量表示;其次,采用卷积操作获取局部上下文特征之后,通过双向长短期记忆(Bi LSTM)网络充分考虑特征之间的长期依赖关系;然后,通过引入注意力机制考虑不同词汇对文本的贡献程度,同时为了避免迁移过程中出现负迁移现象,在目标函数中引入正则项约束;最后,将在源领域产品评论训练得到的模型参数迁移到目标领域产品评论中,并在少量目标领域有标注数据上进行微调。实验结果表明,与AE-SCL-SR方法和对抗记忆网络(AMN)方法相比,AC-BiLSTM方法的平均准确率分别提高了6. 5%和2. 2%,AC-BiLSTM方法可以有效地提高跨领域情感分类性能。

• 单位
  通信与信息工程学院; 重庆邮电大学