科研之友
微信
新浪微博
Facebook
分享链接
摘要
文章针对目前典型基于显著图的对抗样本攻击算法JSMA开展研究，提出基于Logits向量的JSMA对抗样本攻击改进算法L-JSMA。该算法在MNIST数据集和CIFAR-10数据集上证明了攻击效果与Logits排序成正相关。为进一步验证该理论，在Alexnet模型和Inception-v3模型上对攻击目标根据Logits排序进行攻击，结论支持该理论。通过实验分析，攻击能力越强的JSMA衍生算法越能够充分利用神经网络的线性特性，在实验结果中表现出的线性相关性越强。由于神经网络同时具有线性特征和非线性特征，攻击效果并不是与Logits排序严格的正相关。文章通过对白盒攻击的神经网络性质探讨，有利于理解神经网络的本质特征，并对黑盒攻击的研究具有借鉴意义。
- 单位
