大模型发展趋势及国内外研究现状

作者:熊子晗; 李雨轩; 陈军; 陈大北
来源:通信企业管理, 2023, (06): 6-12.

摘要

<正>大模型是“大算力+强算法”结合的产物,通常是在大规模无标注数据上进行训练,学习出一种特征和规则。基于大模型进行应用开发时,将大模型进行微调,如在下游特定任务上的小规模有标注数据上进行二次训练,或者不进行微调,就可以完成多个应用场景的任务。