基于掩码提示与门控记忆网络校准的关系抽取方法

作者：魏超; 陈艳平^*; 王凯; 秦永彬; 黄瑞章

来源：计算机应用, 2023, 1-9.

• 关系抽取
• 掩码
• 门控神经网络
• 预训练语言模型
• 提示学习

针对关系抽取任务中实体关系语义挖掘困难和预测关系有偏差等问题，提出一种基于掩码提示与门控神经网络校准的关系抽取方法。该方法利用提示中的掩码学习实体之间在预训练语言模型语义空间中的潜在语义，通过构造掩码注意力权重矩阵，将离散的掩码语义空间相互关联，并采用门控校准网络将含有实体及关系语义的掩码表示融入到句子的全局语义中，将其作为关系提示对关系信息进行校准，随后将句子表示的最终表示映射到相应的关系类别上。该方法更好地利用提示中掩码的作用，并结合传统微调方法的学习句子全局语义的优势，充分激发了预训练语言模型的潜力。实验结果表明，该方法在Sem数据集的F1值达到91.4%，相较于RELA生成式方法提高了1个百分点，相较于RELA(Relation Extraction with Label Augmentation)少了大约10%的参数量；在SciERC(Entities, Relations, and Coreference for Scientific)和CLTC(Chinese Literature Text Corpus)数据集上的抽取性能分别达到91.0%和82.8%。该方法在上述三个数据集上均明显优于对比的方法，并且实现了当前最先进的性能，证明了该方法的有效性。相比基于生成式的方法，该方法以较少的参数量实现了更优的抽取性能。

• 单位
  贵州大学