深度神经网络的后门攻击研究进展

作者：黄舒心; 张全新; 王亚杰; 张耀元; 李元章^*

来源：计算机科学, 2023, 50(09): 52-61.

• 后门攻击
• 神经网络
• 机器学习
• 投毒攻击
• 非投毒攻击

近年来，深度神经网络(Deep Neural Networks, DNNs)迅速发展，其应用领域十分广泛，包括汽车自动驾驶、自然语言处理、面部识别等，给人们的生活带来了许多便利。然而，DNNs的发展也埋下了一定的安全隐患。近年来，DNNs已经被证实易受到后门攻击，这主要是由于DNNs本身透明性较低以及可解释性较差，使攻击者可以趁虚而入。通过回顾神经网络后门攻击相关的研究工作，揭示了神经网络应用中潜在的安全与隐私风险，强调了后门领域研究的重要性。首先简要介绍了神经网络后门攻击的威胁模型，然后将神经网络后门攻击分为基于投毒的后门攻击和无投毒的后门攻击两大类，其中基于投毒的后门攻击又可以细分为多个类别；然后对神经网络后门攻击的发展进行了梳理和总结，对现有资源进行了汇总；最后对后门攻击未来的发展趋势进行了展望。

• 单位
  北京理工大学