基于BERT的文本情感分析方法的研究

作者：方英兰; 孙吉祥; 韩兵

来源：信息技术与信息化, 2020, (02): 108-111.

• 情感分析
• BERT Bi-LSTM
• 注意力机制

情感分析是自然语言处理的热门研究内容之一。文本情感分析方法主要分为三类:基于情感词典的情感分析、基于机器学习的情感分析及基于深度学习的情感分析。其中,基于深度学习的情感分析步骤为:文本预处理、生成词向量、送入深度模型进行训练。针对传统的词向量生成方式不能很好地捕捉文本的双向语义特征,BERT预训练模型通过真正的双向模型可以捕捉到文本的更完整的特征。本文在此基础上设计并建立BERT+Bi-LSTM+ Attention 情感分析模型,在商品评论数据集上对其情感倾向性进行分析。与传统的情感词典、Bi-LSTM+Attention深度学习算法在同一应用场景下从精度和召回率两个评价标准进行了对比。实验结果表明本文采用的 BERT + Bi-LSTM + Attention 模型在所有测试模型中具有较高的精度。

• 单位
  北方工业大学