科研之友
微信
新浪微博
Facebook
分享链接
摘要
随着计算机性能的飞速提升和数据量的爆炸式增长，深度学习在越来越多的领域取得了惊人的成果。然而，研究者们发现深度网络也存在对抗攻击。在图像分类领域，攻击者可以通过向原始的图片上加入人为设计的微小的扰动，来使得深度神经网络分类器给出错误的分类，而这种扰动对于人类来说是不可见的，加入了扰动之后的图片就是对抗样本。基于梯度攻击的对抗样本生成算法(projected gradient descent, PGD)是目前有效的攻击算法，但是这类算法容易产生过拟合。该文提出了积分损失快速梯度符号法，利用积分损失来衡量输入对于损失函数的重要性程度，规避梯度更新方向上可能陷入局部最优值的情况，不仅进一步提升了对抗样本的攻击成功率，而且也增加了对抗样本的迁移性。实验结果证明了所提方法的有效性，可以作为测试防御模型的一个基准。
- 单位
