基于翻译结构的相对位置注意力机制推荐模型

作者：陶涛; 郑凯; 王一蕾^*; 郑相涵

来源：计算机工程与设计, 2021, 42(10): 2917-2923.

DOI：10.16208/j.issn1000-7024.2021.10.029

• 注意力机制
• 动态变化
• 序列推荐
• 相对位置
• 长序列

基于注意力机制的推荐模型在进行特征提取时用到的绝对位置是一个静态且孤立的信息。为克服上述缺点,提出基于翻译结构的相对位置注意力机制推荐模型。以时序排列用户历史行为并构造相对位置表征,分别在计算注意力权重和输出中加入相对位置表征,加深注意力编码层和解码层并用平均注意力进行预处理。实验结果表明,与基于注意力机制的模型相比,所提模型更能捕获用户偏好的动态变化,挖掘更深层的信息,更适合处理长序列。