多场景融合的细粒度图像描述生成算法

作者：李欣晔; 张承强; 周雄图; 郭太良; 张永爱

来源：计算机与现代化, 2021, (09): 1-6.

• 图像描述生成
• 卷积神经网络
• 命名实体识别
• 多场景注意力
• Transformer结构

针对图像描述生成任务在不同场景下表现不佳的缺点,提出一种融合卷积神经网络和先验知识的多场景注意力图像描述生成算法。该算法通过卷积神经网络生成视觉语义单元,使用命名实体识别对图像场景进行识别和预测,并使用该结果自动调整自注意力机制的关键参数并进行多场景注意力计算,最后将得到的区域编码和语义先验知识插入Transformer文本生成器中指导句子的生成。结果表明,该算法有效解决了生成的描述缺少关键场景信息的问题。在MSCOCO和Flickr30k数据集上对模型进行评估,其中MSCOCO数据集的CIDEr得分达到1.210,优于同类图像描述生成模型。