科研之友
微信
新浪微博
Facebook
分享链接
摘要
序列化推荐任务根据用户历史行为序列，预测下一时刻即将交互的物品。大量研究表明：预测物品对用户历史行为序列的依赖是多层次的。已有的多尺度方法是针对隐式表示空间的启发式设计，不能显式地推断层次结构。为此，该文提出动态层次Transformer,来同时学习多尺度隐式表示与显式层次树。动态层次Transformer采用多层结构，自底向上根据当前层近邻注意力机制判断需要融合的块，动态生成块掩码。多尺度层次结构中，每层的组合结构由该层的块掩码矩阵推断出，每层的隐式表示由动态块掩码与自注意力机制融合得到。该文提出的算法的预测准确度在MovieLens-100k和Amazon Movies and TV两个公共数据集上分别比当前最先进的基准方法提升了2.09%和5.43%。定性分析的结果表明，该文模型学习到的多尺度结构是符合直觉的。
- 单位
