科研之友
微信
新浪微博
Facebook
分享链接
摘要
利用深度神经网络实现自然语言处理领域的文本分类任务时，容易遭受对抗样本攻击，研究对抗样本的生成方法有助于提升深度神经网络的鲁棒性。因此，提出了一种单词级的文本对抗样本生成方法。首先，设计单词的重要性计算函数；然后，利用分类概率查找到单词的最佳同义替换词，并将两者结合确定单词的替换顺序；最后，根据替换顺序生成与原始样本接近的对抗样本。在自然语言处理任务上针对卷积神经网络、长短时记忆网络和双向长短时记忆网络模型进行的实验表明：生成的对抗样本降低了模型的分类准确率和扰动率，且经过对抗训练之后模型的鲁棒性有所提高。
- 单位
