摘要
近年来,深度学习技术在大量的计算视觉任务上取得了巨大的成功,深度神经结构是一个决定性能的关键要素,全自动的神经结构搜索方法的研究近年来受到了越来越多的关注。全自动的神经结构搜索方法是指针对特定的任务,通过算法自动地学习出适用的深度神经结构。各类神经结构搜索方法在探索高性能、高效率的神经结构方面已经展示出了巨大的潜力。从性能评估方法、搜索空间、结构搜索策略3个维度对神经结构搜索方法进行了分类概述:重点介绍了4种降低计算开销的性能评估方法,2类典型的神经结构搜索空间以及基于离散空间和基于连续空间的2种搜索策略。基于连续空间的NAS算法正逐渐成为NAS算法的重要发展方向。
-
单位中国科学院; 中国科学院计算技术研究所; 中国科学院大学