摘要
近年来图神经网络(GNN)在图结构数据表示学习方面取得显著成绩。然而,随着网络层数增加,由于过度平滑问题,基于邻域信息聚合策略的GNN性能恶化,这也是GNN应用于真实图的主要瓶颈。研究人员对直连节点的特征信息聚合过程进行了许多改进,即广度探索。然而,这些模型仅在层数为3或更少的情况下才表现最佳,而在深层情况下性能迅速下降。为缓解过度平滑,本文提出一种嵌套的图注意网络,即基于双重注意力机制的多尺度特征融合模型NGAT,该网络可以半监督形式工作。除广度探索,k层NGAT运用注意力机制引导的分层聚合策略,选择性地利用来自k阶邻域的信息特征,即深度探索。即使对于10层或更深的架构,NGAT也能平衡保留局部性(包括根节点特征和局部结构)和从大型邻域聚合信息的需求。本文在公开数据集上对比了现有图神经网络模型,实验表明本文提出的NGAT模型具备更强的节点嵌入学习能力。
- 单位