科研之友
微信
新浪微博
Facebook
分享链接
摘要
随着深度学习应用的愈发广泛，针对深度学习模型的安全性研究也变得至关重要.在商业应用中，深度学习的模型往往处于应用的底层，一旦对底层模型攻击成功，可能会给商业应用带来巨大的损失.好的攻击算法可以很好的对深度学习模型进行风险评估，从而避免损失.针对实际场景中存在的Hard-label问题，现存算法解决此问题都需要上万次查询，具有很高的攻击成本，提出了FastGBA(fast geometric boundary attack)攻击算法：一种在样本空间内针对决策边界进行几何探测的攻击算法，初始从具有较大扰动的对抗样本出发，进行二分逼近至决策边界附近，最终在决策边界附近进行邻域几何探测来缩短样本距离.FastGBA攻击算法在4个深度学习模型上同SurFree攻击算法以及HSJA(hop skip jump attack)攻击算法进行了对比实验,在查询次数不超过500次，中等扰动(L2距离≤10)的限制条件下，攻击成功率在4个深度学习模型上相较于SurFree攻击算法提升了14.5%～24.4%，相较于HSJA攻击算法提升了28.9%～36.8%.
- 单位
