摘要
[目的]本文旨在准确把握社会科学学术文献的核心内容,提升文献摘要的语步结构识别效果。[方法]使用预训练语言模型在多种图书情报领域核心期刊的双语摘要数据上进行实验,提出一种分别在模型的预训练、微调、模型输出层阶段使用领域数据进行增强学习的方法。[结果]充分利用领域双语数据进行增强预训练、微调,以及融合双语句子分类概率能够在单期刊数据上分别提升摘要结构识别的F1值约1%~2%、1%、0.5%~1%。[局限]限于计算资源,未在跨语言预训练模型上进行领域数据继续预训练并测试性能。[结论]研究充分利用了学术文献中的双语资源,有效提升摘要语步结构识别效果,对快速了解文献内容、促进科学交流具有一定意义。
- 单位