摘要

探讨神经网络如何结合注意力机制及其变种,以更好地学习用户和物品间的复杂和隐含关系,从而提高推荐的准确性和个性化水平。从多层感知机、卷积神经网络、循环神经网络、自编码器、图神经网络,以及反向传播神经网络这六类典型神经网络出发,研究它们与注意力机制相结合进行推荐的过程,具体结合点击率预测、标签推荐和评论评分预测等典型应用场景进行优缺点分析。通过将神经网络与注意力机制相结合,模型能够聚焦于输入数据中的关键信息,降低对次要信息的注意程度,甚至直接过滤掉无关信息。现有将注意力机制与神经网络结合的推荐模型,在很大程度上能够满足常见的推荐任务需求。但是,这类模型在跨域推荐、深度强化学习推荐,以及多模态推荐等复杂推荐场景中,仍面临一些挑战。例如,跨域推荐需要模型具备迁移学习的能力,强化学习推荐需要进行长期奖励建模。