针对静态词向量模型语义表示质量不高，深度学习模型无法聚焦关键特征等问题，提出了基于ChineseBERT-BiSRU-AT的医疗文本分类模型。预训练模型ChineseBERT融入字形和拼音特征，通过参考词的具体上下文语境，学习到词的动态语义表示。BiSRU模块提取文本高维序列特征，软注意力机制赋予关键词更高权重。在影像报告文本数据集进行实验，结果表明Chinese-BiSRU-AT模型取得了最高的F1分数，BiSRU模块训练效率更优，ChineseBERT模型应用效果更佳。
科研之友
微信
新浪微博
Facebook
分享链接
