深度学习模型压缩的挑战与展望

作者:杨戈; 郭晋阳*; 柴振华
来源:电子科学技术, 2023, (03): 98-106.
DOI:10.16453/j.2096-5036.2023.03.010

摘要

近年来,深度学习模型在计算机视觉、自然语言处理等领域的表现取得了长足的发展和巨大的进步,但与之俱来的是复杂的网络结构和庞大的参数数量,其高昂的运算和存储成本限制了深度学习在实际应用中的部署。虽然模型轻量化方法有效地减少了模型的体积与运算,但仍面临新的挑战。本文总结了目前主流的五种深度学习模型轻量化方法,深度分析模型轻量化方法在学术界与工业界目前面临的挑战。最后,本文在前沿研究成果的基础上对未来的工作加以展望。

全文