摘要
本发明涉及一种基于扰动改良的自注意力机制社交网络文本情感分析方法,用于在网络中分析文本表达的情感。步骤如下:将网络文本数据中的句子用分词工具切分为词,并用词嵌入矩阵将每个词转化为词向量;将词向量输入预训练语言模型(BERT-base)中得到每个词的隐层状态(特征表示);将词的隐层状态输入分类器获得句子的分类概率分布;将每个词的隐层状态和句子的分类概率分布进行扰动改良,得到注意力监督信息;用注意力监督信息二次训练预训练语言模型;将词向量输入改良训练后的语言模型得到隐层状态,并用分类器输出最终分类结果。
- 单位