科研之友
微信
新浪微博
Facebook
分享链接
摘要
神经网络模型已被广泛运用于人工智能领域，并取得了成功，然而当前神经网络面临着对抗样本攻击的困扰。对抗样本是一种人为构造的虚假数据，可使得神经网络输出错误的结果。故提出了一种基于神经网络决策边界搜索的对抗样本生成算法。首先，在两个真实样本之间使用二分搜索来找到一个初始攻击点。然后，计算神经网络在决策边界面上的法线向量，以找到神经网络最敏感的方向。最后，使用方向信息迭代找到更接近原始数据点的对抗样本，直到对抗样本收敛。在公开的数据集上，使用该算法进行对抗样本攻击实验，实验结果表明该算法能够生成对抗扰动更小的对抗样本，并且可以与其他攻击算法结合，达到较好的攻击效果。
- 单位
