科研之友
微信
新浪微博
Facebook
分享链接
摘要
后门攻击是针对深度神经网络模型的一种隐蔽安全威胁，在智能信息系统安全性测试等方面具有重要的研究价值。现有的字符级后门攻击存在两方面的问题：当被毒化的训练样本的源标签与目标标签一致时，后门攻击的效果不佳；插入的触发器与上下文相关性不强，会破坏原始输入的语义和流畅性。为了解决上述问题，提出了一种基于篡改训练数据的词级文本后门攻击方法。通过对抗扰动技术或隐藏重要词技术篡改少部分训练数据，使目标模型更容易学习到后门特征；在触发器的生成和添加部分，利用义原库向被攻击句子中添加相关性强的触发器。在标签一致的条件下，通过在2个基准模型上的大量实验，证明了所提出的攻击可以达到90%以上的成功率，并能生成更高质量的后门示例，其性能明显优于基线方法。
- 单位
