面向中文网络对话文本的论辩挖掘——基于微调与提示学习的大模型算法

作者：言佳润; 鲜于波^*

来源：中文信息学报, 2023, 37(10): 139-148.

• 论辩挖掘
• 网络对话文本
• 论辩语料库
• 预训练模型
• 提示学习

随着互联网技术的飞速发展，即时通信、在线论坛等应用广泛普及，网络上产生了了大量非结构化或半结构化的网络对话论辩文本，对这些文本进行论辩挖掘研究具有重要的学术价值与现实意义。该文首先构建了中文网络对话论辩语料库，以子句作为标注的粒度；然后，基于此语料库使用预训练语言模型微调和提示方法分别进行论辩元素及其关系的识别，分别使用了目前受到广泛认可的BERT、XLNet、RoBERTa及其衍生的预训练语言模型，通过预训练微调的方式进行实验。在GPT、BERT、RoBERTa预训练模型上进行提示学习，通过P-tuning自动构建连续模板，进行论辩挖掘。实验结果显示，提示学习用于论辩挖掘任务是可行的，且准确率与现今取得很好效果的预训练微调方法相近，有时准确率甚至更高，同时在小样本或零样本数据集上有着更好的效果。实验还显示GPT与Prompt结合可以较好地完成论辩关系识别任务。