摘要
特征交互在推荐系统领域的广告点击率(Click-Through Rate,CTR)预测任务中至关重要,当前业界做的特征交互往往是基于内积、外积等矩阵变换,这些操作没有引入额外的信息,可以作为衡量两个向量相似性的手段,但作为特征交互的表示不一定是可靠的,许多特征交互无法有效提高点击率预测性能。首先从改善特征交互方式的角度入手引入额外的参数来学习一个映射,假设这个映射能够将两个向量的表征映射成交互的表征。学习映射的过程能够通过元学习(Meta-learning)来实现,故构建一个学习器以函数的方式表征特征交互。另外,不同的特征对不一定采取相同的方式交互,不能通过同一种交互方式得到所有特征对,因此设计一组元学习器(meta-learner)来学习映射函数,引入门控网络(GateNet)学习模型中元学习器的分布,那么不同的特征嵌入可以由一组元学习器得到表征。基于以上两点提出了一种融合多个元学习器并结合门控网络(Multiple meta-learners combined with GateNet,gate-MML)的特征交互算法,通过学习不同特征的联系和差异提高每个特征交互的质量。为了验证所提算法的性能,在xDeepFM模型上采用gate-MML做进一步的特征交互,采用2个真实广告点击率预测的数据集进行实验,并使用Logloss作为损失函数,AUC作为评价指标。实验结果表明与传统的CTR预测模型相比,改进算法提升了广告点击率预测任务的预测性能。
- 单位