基于BERT-VGG16的多模态情感分析模型

作者:陈宏松; 安俊秀; 陶全桧; 周俊
来源:成都信息工程大学学报, 2022, 37(04): 379-385.
DOI:10.16836/j.cnki.jcuit.2022.04.003

摘要

针对传统情感分析方法只采用文本数据无法充分挖掘情感信息,且单模态数据包含的信息量有限,不能很好反映真实情感状态等问题,提出一种引入注意力机制的多模态情感分析模型。首先,该模型使用预训练模型BERT和VGG16分别从文本数据和图像数据中提取特征。其次,为提高各模态重要特征权重,特征融合时引入注意力机制,融合后的模型可大幅提升数据信息量。实验结果表明,使用基于BERT-VGG16引入注意力机制的多模态特征融合模型比单模态和其他多模态特征融合模型在情感分析效果上有显著提升。

全文