科研之友
微信
新浪微博
Facebook
分享链接
摘要
为了有效地获取到更有区别性的跨模态表示，提出了一种基于多负例对比机制的跨模态表示学习方法——监督对比的跨模态表示学习（Supervised Contrastive Cross-Modal Representation Learning ，SCCMRL），并将其应用于视觉模态和听觉模态上。SCCMRL分别通过视觉编码器和音频编码器提取得到视听觉特征，利用监督对比损失让样本数据与其多个负例进行对比，使得相同类别的视听觉特征距离更近，不同类别的视听觉特征距离更远。此外，该方法还引入了中心损失和标签损失来进一步保证跨模态表示间的模态一致性和语义区分性。为了验证SCCMRL方法的有效性，本文基于SCCMRL方法构建了相应的跨模态检索系统，并结合Sub＿URMP和XmediaNet数据集进行了跨模态检索实验。实验结果表明，SCCMRL方法相较于当前常用的跨模态检索方法取得了更高的mAP值，同时验证了多负例对比机制下的跨模态表示学习具有可行性。
- 单位
