基于感知重采样和多模态融合的连续情感识别

作者：李健; 张倩^*; 陈海丰; 李晶; 王丽燕; 裴二成

来源：计算机应用研究, 2023, 40(12): 3816-3820.

DOI：10.19734/j.issn.1001-3695.2023.04.0217

• 情感识别
• 感知重采样
• 多模态融合
• 注意力机制

情感识别在人机交互中发挥着重要的作用，连续情感识别因其能检测到更广泛更细微的情感而备受关注。在多模态连续情感识别中，针对现有方法获取的时序信息包含较多冗余以及多模态交互信息捕捉不全面的问题，提出基于感知重采样和多模态融合的连续情感识别方法。首先感知重采样模块通过非对称交叉注意力机制去除模态冗余信息，将包含时序关系的关键特征压缩到隐藏向量中，降低后期融合的计算复杂度。其次多模态融合模块通过交叉注意力机制捕捉模态间的互补信息，并利用自注意力机制获取模态内的隐藏信息，使特征信息更丰富全面。在Ulm-TSST和Aff-Wild2数据集上唤醒度和愉悦度的CCC均值分别为63.62%和50.09%,证明了该模型的有效性。

• 单位
  西安邮电大学; 陕西科技大学