科研之友
微信
新浪微博
Facebook
分享链接
摘要
卷积神经网络是目前人工智能领域在图像识别与处理相关应用中的关键技术之一，广泛的应用使对其鲁棒性研究的重要性不断凸显。以往对于卷积神经网络鲁棒性的研究较为笼统，且多集中在对抗鲁棒性方面。这难以更深入地研究神经网络鲁棒性的发生机制，已经不适应人工智能的发展。引入神经科学的相关研究，提出了视觉鲁棒性的概念，通过研究神经网络模型与人类视觉系统的相似性，揭示了神经网络鲁棒性的内在缺陷。回顾了近年来神经网络鲁棒性的研究现状，并分析了神经网络模型缺乏鲁棒性的原因。神经网络缺乏鲁棒性体现在其对于微小扰动的敏感性，其原因在于神经网络会更倾向于学习人类难以感知的高频信息用于计算和推理。而这部分高频信息很容易被扰动所破坏，最终导致模型出现判断错误。传统鲁棒性的研究大多关注模型的数学性质，无法突破神经网络的天然局限性。视觉鲁棒性在传统鲁棒性的概念上进行拓展。传统鲁棒性概念衡量模型对于失真变形的图像样本的辨识能力，失真样本与原始干净样本在鲁棒模型上都能保持正确的输出。视觉鲁棒性衡量模型与人类判别能力的一致性。这需要将神经科学和心理学的研究方法、成果与人工智能相结合。回顾了神经科学在视觉领域的发展，讨论了认知心理学的研究方法在神经网络鲁棒性研究上的应用。人类视觉系统在学习和抽象能力上具有优势，神经网络模型在计算和记忆速度方面强于人类。人脑的生理结构与神经网络模型的逻辑结构的差异是导致神经网络鲁棒性问题的关键因素。视觉鲁棒性的研究需要对人类的视觉系统有更深刻的理解。揭示人类视觉系统与神经网络模型在认知机制上的差异，并对算法进行有效的改进，这是神经网络鲁棒性乃至人工智能算法的主要发展趋势。
- 单位
