大语言模型及其在政务领域的应用

作者：王昀; 胡珉; 塔娜^*; 孙海涛; 郭毅峰; 周武爱; 郭昱; 张皖哲; 冯建华

来源：清华大学学报, 2023, 1-10.

DOI：10.16511/j.cnki.qhdxxb.2023.26.042

• 语言模型
• 自然语言处理
• 人工智能
• 迁移学习
• 数字政府

大语言模型是自然语言处理的核心研究内容之一,已广泛应用于包括政务在内的诸多领域。首先,介绍了统计语言模型、神经网络语言模型等早期语言模型的研究进展;其次,重点综述了大语言模型研究进展;最后,介绍了大语言模型在政务领域的应用情况,包括政务文本分类、政务问答、政务命名实体识别、舆情风险识别和政务关系抽取,并提出政务大语言模型研究需要解决的问题,即数据多模态化、正确面对“模型即服务”趋势、注重数据高安全性、明确责任边界。此外,还提出了政务大语言模型研究的技术路径。大语言模型正处于蓬勃发展的阶段,随着中国推动人工智能技术研究及其在政务领域的应用,大语言模型将在政务领域发挥更大作用。

• 单位
  中国人民大学; 清华大学