科研之友
微信
新浪微博
Facebook
分享链接
摘要
随着云计算技术在计算、存储和负载等方面的日趋完善，近年来大量智能化应用实施“上云”部署。这些系统在提升智能化水平的同时，也带来了一系列新的安全问题。研究表明，攻击者在攻击基于深度学习的智能应用时，可以绕过传统的防火墙杀毒软件，直接利用修改的数据诱导深度模型产生误判，这种以攻击为目的的输入称为对抗样本。为了对这种攻击手段开展更深入的研究，基于云计算环境搭建了一套对抗样本攻防仿真验证平台。该平台集成了攻击模块、防御模块、主干网络模块和测试评估模块，安全人员可以通过选择不同的模块，对自研的攻击方法、防御方法以及骨干网络进行对抗测试，通过评估模块验证对抗样本攻击的有效性。选取公共数据集ImageNet对各个模块进行了测试，获得了稳定的测试性能，可以作为安全测评基线。
- 单位
