科研之友
微信
新浪微博
Facebook
分享链接
摘要
通用对抗攻击只需向任意输入添加一个固定的扰动序列，就可以成功混淆文本分类器，但是其会不加区分地攻击所有类别的文本样本，容易引起防御系统的注意。为了实现攻击的隐蔽性，文中提出了一种简单高效的类别区分式通用对抗攻击方法，突出对目标类别的文本样本有攻击效果，并尽量对非目标类别不产生影响。在白盒攻击的场景下，利用扰动序列在每个批次上的平均梯度搜索得到多个候选扰动序列，选择损失最小的扰动序列进行下一轮迭代，直到没有新的扰动序列产生。在4个公开的中英文数据集以及神经网络模型TextCNN和BiLSTM上进行了大量的实验，以评估所提方法的有效性，实验结果表明，该攻击方法可以实现对目标类别和非目标类别的区分式攻击，而且具有一定的迁移性。
- 单位
