AttentionRanker——基于排名优化的自-互注意力机制

作者：赵艳明; 林美秀^*; 曾姝瑶^*

来源：中国传媒大学学报(自然科学版), 2023, 30(04): 27-38.

DOI：10.16196/j.cnki.issn.1673-4793.2023.04.008

• 图像匹配
• 注意力机制
• 稀疏算法

图像匹配是精准估计相机位姿信息的关键，近年来基于深度学习注意力机制的图像匹配研究取得了较大进展，但如何降低Transformer类图像匹配网络的高计算复杂度仍是巨大挑战。为了提高匹配网络效率，本文提出一种基于排名优化的自-互注意力机制。通过对位置编码后的一维输入特征图重塑形，采用类空间注意力机制挑选Top-m个活跃像素点的方法稀疏注意力图，成功地将点积注意力的时间复杂度从二次降为近线性。实验结果表明该方法在前向推理时耗时更短，并且能在一定程度上提升位姿估计精度。

• 单位
  中国传媒大学