知识增强的审计新闻生成式摘要模型

作者：朱思文; 张仰森^*; 王雪松; 孙龙渊; 徐锐懿; 贾启龙

来源：哈尔滨理工大学学报, 2023, 1-13.

• 知识增强
• 生成式摘要模型
• 审计领域知识库
• 审计新闻摘要
• 审计新闻数据集

生成模型对审计新闻理解不充分且易丢失关键信息的问题，提出一种知识增强与生成式摘要模型相结合的摘要生成模型（TextRank and Bart with Knowledge Enhancement Model， TRB-KE）。首先保留新闻前K个句子以获取关键信息；其次利用抽取式摘要模型对剩余新闻语句按关键度排序，筛选出高质量信息；然后建立了一套审计领域知识库，并将新闻中包含的术语与其释义抽出，作为背景知识融入到生成式摘要模型中；最后，使用生成式摘要模型对融合背景知识的高质量新闻文本进行归纳概括，得到摘要结果。同时，为提高模型效果，构建了一套审计新闻数据集进行针对性训练。实验结果表明，相较于基准模型，所提的TRB-KE模型在审计新闻数据集和NLPCC2018数据集的Rouge均值分别提升了0.98%和1.02%，证明所提模型可以学习新闻的深层信息，提升生成摘要的质量。

• 单位
  北京信息科技大学