科研之友
微信
新浪微博
Facebook
分享链接
摘要
深度神经网络已被应用于人脸识别、自动驾驶等场景中，但容易受到对抗样本的攻击。对抗样本的生成方法被分为白盒攻击和黑盒攻击，当对抗攻击算法攻击白盒模型时存在过拟合问题，导致生成对抗样本的迁移性降低。提出一种用于生成高迁移性对抗样本的对抗攻击算法CSA。在每次迭代过程中，通过对输入RGB图片的通道进行拆分，得到三张具有一个通道的输入图片，并对其进行零值填充，获得三张具有三个通道的输入图片。将最终得到的图片与原始RGB输入图片共同传入到模型中进行梯度计算，调整原始梯度的更新方向，避免出现局部最优。在此基础上，通过符号法生成对抗样本。在ImageNet数据集上的实验验证该算法的有效性，结果表明，CSA算法能够有效提高对抗攻击的迁移性，在四种常规训练模型上的攻击成功率平均为84.2%，与DIM、TIM结合所得DI-TI-CSA算法在三种对抗训练黑盒模型上的攻击成功率平均为94.7%，对七种防御模型的攻击成功率平均为91.8%。
- 单位
