摘要
一种改进训练方式的BERT短文本情感分析方法,构建短文本情感分析模型,包括输入层、语义特征提取层、池化层、全连接层和分类输出层;采集数据集并预处理;在输入层编码得到输入文本的词向量表示;在词向量中添加扰动得到对抗样本;语义特征提取层基于BERT模型,对对抗样本进行语义特征提取,输出特征向量;经池化层、全连接层后,利用Softmax进行归一化处理从而得到最终的情感极性分类结果;本发明采用对抗训练方式训练该短文本情感分析模型,解决了因中文一词多义、网络新词等造成的情感错分,以及传统模型无法在提取上下文信息的同时提取局部关键信息的问题,增强了模型鲁棒性,同时缓解了模型训练效率差、模型性能退化的问题。
- 单位