深度学习人脸识别系统的对抗攻击算法研究

作者：陈晋音; 周嘉俊; 沈诗婧; 郑海斌; 宣琦

来源：小型微型计算机系统, 2019, 40(08): 1723-1728.

• 对抗攻击
• 人脸识别
• 粒子群优化
• 深度学习

目前,基于深度学习的应用越来越广泛,但是深度学习易受到人为细微扰动的对抗攻击.针对精度和安全要求较高的人脸识别深度模型,通过研究其在对抗攻击下的脆弱性,有助于进一步提出相应防御策略来提高模型鲁棒性.本文针对基于深度学习的黑盒人脸识别系统,利用生物面部配件(如眼镜框)约束对抗扰动区域,通过粒子群优化(PSO)策略生成对抗配件,攻击人脸识别模型.本文实现了针对最新人脸识别框架Face Net的对抗攻击,取得了较好的攻击效果.最后利用对抗训练进行了防御测试,验证了该方法能提高模型鲁棒性.

• 单位
  浙江工业大学