科研之友
微信
新浪微博
Facebook
分享链接
摘要
深度学习模型在某些场景的实际应用中要求其具备一定的可解释性,而视觉是人类认识周围世界的基本工具,可视化技术能够将模型训练过程从不可见的黑盒状态转换为可交互分析的视觉过程,从而有效提高模型的可信性和可解释度.目前,国内外相关领域缺少有关深度学习模型可视化工具的综述,也缺乏对不同用户实际需求的研究和使用体验的评估.因此,本文通过调研近年来学术界模型可解释性和可视化相关文献,总结可视化工具在不同领域的应用现状,提出面向目标用户的可视化工具分类方法及依据,对每一类工具从可视化内容、计算成本等方面进行介绍和对比,以便不同用户选取与部署合适的工具.最后在此基础上讨论可视化领域存在的问题并加以展望.
- 单位
