摘要
本发明提供了一种基于注意力机制的实体关系抽取方法、装置、介质和设备。其中方法包括如下步骤:将原始文本的内容进行预处理,并输入到BERT预训练模型得到文本句子每个单词的文本向量表示;将文本向量输入卷积神经网络得到句子卷积特征向量;将文本向量经过注意力权重计算单元得到包含实体信息的语义上下文向量;之后连接成特征向量,然后经过全连接神经网络和SoftMax函数计算得到不同类别的概率,其中最大的概率对应的就是实体对的实体关系类型。本发明通过计算实体信息注意力得到句子中每个单词对于每个实体的相关程度,依靠词级注意机制来选择重要的信息来进行关系的表示,使得实体关系抽取的精确率、召回率更高。
- 单位