科研之友
微信
新浪微博
Facebook
分享链接
摘要
对抗样本能够使得深度神经网络以较高置信度输出错误的结果。对抗样本分为白盒攻击和黑盒攻击，白盒攻击目前达到了较高的成功率，而黑盒攻击由于对模型、参数的未知，导致现有黑盒攻击方法的攻击成功率还较低。为了进一步提高黑盒攻击的成功率，提出了一种优化梯度增强黑盒对抗攻击算法。使用混合图像的方式去混合其他类别的图像样本，从而得到混合了其他类别信息的混合梯度。使用上一次迭代过程中的梯度方差去调整当前图像样本的梯度，得到优化梯度。将优化梯度与Adam优化算法结合进行迭代优化生成可迁移性强的对抗样本。在ImageNet数据集上进行了实验，结果表明所提算法能有效提升对抗样本的黑盒攻击性。在单模型攻击和集成模型攻击中的平均攻击成功率分别为71.7%和88.3%，融合了三个基于转换的对抗攻击算法后平均攻击成功率则达到了96.8%。此外，对现有的5个对抗防御模型进行攻击能够实现92.7%的平均成功率，优于当前基于输入转换的攻击方法以及基于梯度的攻击方法。
- 单位
