轻量级神经网络架构综述

作者：葛道辉; 李洪升^*; 张亮; 刘如意; 沈沛意; 苗启广

来源：软件学报, 2020, 31(09): 2627-2653.

DOI：10.13328/j.cnki.jos.005942

• 轻量级神经网络
• 便携式设备
• 神经网络模型压缩
• 神经网络架构搜索
• 自动机器学习

深度神经网络已经被证明可以有效地解决图像、自然语言等不同领域的问题.同时,伴随着移动互联网技术的不断发展,便携式设备得到了迅速的普及,用户提出了越来越多的需求.因此,如何设计高效、高性能的轻量级神经网络,是解决问题的关键.详细阐述了3种构建轻量级神经网络的方法,分别是人工设计轻量级神经网络、神经网络模型压缩算法和基于神经网络架构搜索的自动化神经网络架构设计;同时,简要总结和分析了每种方法的特点,并重点介绍了典型的构建轻量级神经网络的算法;最后,总结现有的方法,并给出了未来发展的前景.

• 单位
  上海宽带技术及应用工程研究中心; 西安电子科技大学