摘要

针对卷积神经网络的结构特点,概述了针对卷积神经网络模型的各类解释方法。重点针对梯度分析技术的可视化特点,对近年来基于梯度分析的卷积神经网络模型可视化解释方法进行了综述与分类,详细分析了每类方法的核心步骤,重点阐述了每类方法的优缺点,并针对各类方法的优缺点进行了对比分析。最后总结了梯度分析可视化方法的总体优点以及不足之处,对基于梯度分析的卷积神经网络解释方法发展方向进行了展望。