结合注意力机制的BERT-BiGRU-CRF中文电子病历命名实体识别

作者：陈娜; 孙艳秋; 燕燕

来源：小型微型计算机系统, 2023, 44(08): 1680-1685.

DOI：10.20009/j.cnki.21-1106/TP.2023-0166

• 中文电子病历
• 命名实体识别
• BERT
• BiGRU
• 注意力机制

为了改善中文电子病历命名实体识别模型的性能，本文提出了基于BERT、双向门控循环单元(Bidirectional Gate Recurrent Unit, BiGRU)与条件随机场CRF相结合的中文电子病历命名实体识别模型，并在此基础上引入了注意力机制.利用BERT(Bidirectional Encoder Representation from Transformers)预训练模型得到结合语境信息的动态字向量，通过双向门控循环单元(Bidirectional Gate Recurrent Unit, BiGRU)提取全局语义特征，利用注意力机制获得增强语义特征，最后通过CRF(Conditional Random Field)解码输出概率最大的全局最优标签序列.利用含有解剖部位、手术、疾病和诊断、药物、实验室检验、影像检查6类实体的CCKS19中文电子病历数据集训练模型.对比实验表明了本文提出的命名实体识别模型的有效性，本文模型在CCKS19数据集上获得了84.11%的F1值.

• 单位
  辽宁中医药大学