基于ALBERT的改进实体关系分类模型

作者:朱瑞天; 王兴芬*
来源:北京信息科技大学学报(自然科学版), 2021, 36(05): 20-27.
DOI:10.16508/j.cnki.11-5866/n.2021.05.004

摘要

在实体关系抽取和分类的任务背景下,针对当前基于深度学习模型对实体间语义关系利用不足的问题,提出了基于预训练ALBERT模型的实体关系分类模型。首先使用实体定位符号对实体位置进行定位,然后使用依存关系方法提取实体间关系描述词,并利用预训练ALBERT模型对输入进行向量化表征,再利用注意力机制将向量进行融合,最终使用Softmax分类器得到关系分类结果。与其他几种深度模型相比,该模型在KBP37数据集和Semeval-2010-task8数据集上的结果最优,验证了模型的有效性。