基于多模型的混合架构情感分析

作者：苗小爱; 冷雪亮; 邵婉露^*

来源：软件, 2020, 41(09): 133-136.

• 自然语言处理
• 情感分析
• transformer
• Text-CNN
• BiGRU

情感分析是自然语言处理(NLP)中十分重要的环节,随着网络发展人们在网络生活中留下的大量情感评论信息。已有的研究大量使用循环神经网络(RNN)和卷积神经网络(CNN)做情感分析。近期注意力机制在NLP领域被广泛使用,并取得突破性进展。为了改善传统模型,充分利用网络评论数据,结合长短时记忆网络(biLSTM),CNN,并使用Transformer机制构建新模型。新模型中,biLSTM编码双上上下文信息,然后CNN部分模拟Text-CNN使用三个不同大小的窗口进行卷积获取句子间的双向信息,最后使用没有前馈操作的Transformer编码器代替传统Max-pooling操作避免信息损失。该模型简称为Multi-Model Stack Neural Network(MMSNN)。与传统biLSTM基线模型和Text-CNN模型在IMDE数据集上进行对比,MMSNN在准确率和损失上均获得最好的效果。

• 单位
  山东科技大学