基于粒子群优化的对抗样本生成算法

作者：钱亚冠^*; 卢红波; 纪守领; 周武杰; 吴淑慧; 云本胜; 陶祥兴; 雷景生

来源：电子与信息学报, 2019, 41(07): 1658-1665.

• 机器学习
• 支持向量机
• 探测攻击
• 显著性扰动
• 对抗样本

随着机器学习被广泛的应用,其安全脆弱性问题也突显出来。该文提出一种基于粒子群优化(PSO)的对抗样本生成算法,揭示支持向量机(SVM)可能存在的安全隐患。主要采用的攻击策略是篡改测试样本,生成对抗样本,达到欺骗SVM分类器,使其性能失效的目的。为此,结合SVM在高维特征空间的线性可分的特点,采用PSO方法寻找攻击显著性特征,再利用均分方法逆映射回原始输入空间,构建对抗样本。该方法充分利用了特征空间上线性模型上易寻优的特点,同时又利用了原始输入空间篡改数据的可解释性优点,使原本难解的优化问题得到实现。该文对2个公开数据集进行实验,实验结果表明,该方法通过不超过7%的小扰动量生成的对抗样本均能使SVM分类器失效,由此证明了SVM存在明显的安全脆弱性。

• 单位
  浙江大学; 浙江科技学院