摘要

<正>随着ChatGPT的出现,自然语言处理技术的发展再次引起业界的注意。而ChatGPT模型1750亿参数的规格,使得业界大力训练超大规模参数的模型,也就是基于大规模参数的语言模型。随后出现了大量大语言模型,如Meta AI的LLaMa和基于该模型的Alpaca、Vicuna,国内复旦大学团队推出了MOSS模型,清华大学团队推出了ChatGLM模型。