基于BiLSTM-CRF的古汉语自动断句与词法分析一体化研究

作者：程宁; 李斌^*; 葛四嘉; 郝星月; 冯敏萱

来源：中文信息学报, 2020, 34(04): 1-9.

• 古文断句
• 分词
• 词性标注
• BiLSTM-CRF
• 古汉语信息处理

古汉语信息处理的基础任务包括自动断句、自动分词、词性标注、专名识别等。大量的古汉语文本未经标点断句,所以词法分析等任务首先需要建立在断句基础之上。然而,分步处理容易造成错误的多级扩散,该文设计实现了古汉语断句与词法分析一体化的标注方法,基于BiLSTM-CRF神经网络模型在四种跨时代的测试集上验证了不同标注层次下模型对断句、词法分析的效果以及对不同时代文本标注的泛化能力。研究表明,一体化的标注方法对古汉语的断句、分词及词性标注任务的F1值均有提升。综合各测试集的实验结果,断句任务F1值达到78.95%,平均提升了3.5%;分词任务F1值达到85.73%,平均提升了0.18%;词性标注任务F1值达到72.65%,平均提升了0.35%。

• 单位
  南京师范大学