摘要
现有的神经架构搜索方法无法直观地将网络模型与候选模块以及模型识别准确率之间的关系展示出来;同时很多NAS方法可扩展性差,无法将其搜索策略扩展至任意搜索空间。针对上述挑战,本文提出了一种可视化模块贡献神经架构搜索方法。本文首先提出了模块贡献这个概念,并通过分析贡献计算过程的窘境给出了任意搜索空间下的统一采样原则,利用统一的贡献度指导原则给出了不同搜索空间的贡献度计算策略。最后,针对特定的约束条件通过动态网络规划算法生成神经网络体系结构。大量的实验结果表明本文算法在任意搜索空间中的有效性。使用CIFAR-10、CIFAR-100和ImageNet16-120数据集在NAS-Bench-201基准测试上平均准确率达到了93.33%、71.07%、42.69%。
- 单位