结合部首特征和BERT-Transformer-CRF的中文电子病历实体识别方法研究

作者：姚蕾; 蒋明峰; 方贤; 魏波; 李杨

来源：软件工程, 2022, 25(12): 30-36.

DOI：10.19644/j.cnki.issn2096-1472.2022.012.007

• 中文命名实体识别
• 部首特征
• Transformer
• BERT

在中文电子病历命名实体识别(CNER)中，中文文本缺乏划分单词边界的分隔符，一些现有的方法难以捕捉长距离相互依赖的特征。因此，文章提出一种利用预训练模型(BERT-Transformer-CRF,BTC)实现CNER的命名实体识别方法。首先，运用BERT(Bidirectional Encoder Representations from Transformers)提取文本特征。其次，使用Transformer捕捉字符之间的依赖关系，此过程不需要考虑字符间的距离；此外，由于汉字的术语字典信息和部首信息包含更深层次的语义信息，所以将术语字典和部首的特征纳入模型以提高模型的性能。最后，运用CRF解码预测标签。实验结果表明所提模型在CCKS2017和CCKS2021数据集上的F1值分别达到了96.22%和84.65%，优于当前主流的命名实体识别模型，具有更好的识别效果。

• 单位
  浙江理工大学