面向法律判决文书的长文档抽取式文摘方法——BIGDCNN

作者：赵嘉昕; 崔喆

来源：计算机应用, 2023, 43(S1): 67-74.

DOI：10.11772/j.issn.1001-9081.2022050710

• 判决文书
• 抽取式文摘
• 预训练语言模型
• 门机制
• 单模型融合

针对法律判决文书信息点较多、结构化程度较高，传统的抽取式文摘方法容易产生冗余句子且无法覆盖全部关键信息的问题，提出BIGDCNN(BERT based Improved Gate Dilated Convolutional Neural Network)模型。首先将原始数据进行语料转换获取序列标注数据，再通过预训练语言模型BERT(Bidirectional Encoder Representations from Transformers)得到从词粒度到句子粒度的长文本表示；最后使用融合了改进门机制的膨胀卷积神经网络（DCNN）以及单模型融合方法，实现低冗余度提取原文关键信息的同时增强抗干扰性，并减小了梯度消失的风险。在法律判决文书自动文摘实验中，本模型的ROUGE-1、ROUGE-2、ROUGE-L评分为62.85%、46.56%、59.25%，较主流模型BERT+Transformer分别提升了15.10、15.75、12.97个百分点。BIGDCNN模型解决了传统抽取式文摘方法的问题，可以高效地运用在法律判决文书的自动文摘场景中。

• 单位
  中国科学院大学; 中国科学院成都计算机应用研究所