基于BERT在税务公文系统中实现纠错功能

作者：袁野; 朱荣钊^*

来源：现代信息科技, 2020, 4(13): 19-21.

DOI：10.19850/j.cnki.2096-4706.2020.13.006

• 税务公文
• BERT掩码语言模型
• BERT-BiLSTM-CRF
• 序列标注

税务公文作为社会政治的产物,具有鲜明的政治性。而撰制公文是一项严肃的工作,必须保持准确、严肃的文体特点。为减轻撰制者和审核者的负担,该实验针对税务系统,利用基于BERT-BiLSTM-CRF的序列标注模型和BERT掩码语言模型的特点,对公文句子中常见的单个字错误进行了检错、纠错实验。准确率、召回率和F1值相比传统的纠错方法有着明显的提升。结果表明,基于BERT-BiLSTM-CRF的序列标注模型和BERT掩码语言模型在税务公文检错纠错应用中具有较大价值。