基于文本关键词的对抗样本生成技术研究

作者：王志强; 都迎迎^*; 林雨衡; 陈旭东

来源：信息安全研究, 2023, 9(04): 338-346.

• 对抗样本
• 中文文本
• 神经网络
• 黑盒攻击
• 深度学习

深度学习模型已被广泛应用于处理自然语言任务，但最新研究表明对抗攻击会严重降低分类模型的准确率，使模型分类功能失效.针对深度学习模型处理自然语言任务时出现的脆弱性问题，提出一种新的对抗样本生成方法KeywordsAttack.该方法利用统计算法选择部分字词组成文本关键词集合，再根据关键词对模型分类结果贡献度大小进行迭代替换，直到成功误导分类模型或替换次数达到设定阈值.该方法针对中文的特点采用汉字拆分、拼音替换的方式生成对抗样本.最后，采用公开酒店购物评论数据集进行实验.实验结果表明，利用KeywordsAttack方法生成的对抗样本平均修改幅度占原始文本的18.2%,攻击BERT模型分类准确率约降低43%,攻击LSTM模型分类准确率约降低30%.该数据表明KeywordsAttack方法可以通过对文本进行较小的扰动成功误导分类模型，同时生成对抗样本过程中访问模型次数较少.

• 单位
  北京电子科技学院; 国家信息中心