基于语境辅助转换器的图像标题生成算法

作者：连政; 王瑞; 李海昌; 姚辉; 胡晓惠

来源：自动化学报, 2023, 49(09): 1889-1903.

DOI：10.16383/j.aas.c220767

• 图像标题生成
• 注意力机制
• 转换器
• 视觉连贯性

在图像标题生成领域,交叉注意力机制在建模语义查询与图像区域的关系方面,已经取得了重要的进展.然而,其视觉连贯性仍有待探索.为填补这项空白,提出一种新颖的语境辅助的交叉注意力(Context-assisted cross attention,CACA)机制,利用历史语境记忆(Historical context memory, HCM),来充分考虑先前关注过的视觉线索对当前注意力语境生成的潜在影响.同时,提出一种名为“自适应权重约束(Adaptive weight constraint, AWC)”的正则化方法,来限制每个CACA模块分配给历史语境的权重总和.本文将CACA模块与AWC方法同时应用于转换器(Transformer)模型,构建一种语境辅助的转换器(Context-assisted transformer, CAT)模型,用于解决图像标题生成问题.基于MS COCO(Microsoft common objects in context)数据集的实验结果证明,与当前先进的方法相比,该方法均实现了稳定的提升.

• 单位
  中国科学院软件研究所; 中国科学院大学