随着人工智能的不断发展,机器学习在多个领域中取得了很好的应用效果。然而对抗样本的出现对机器学习模型的安全性造成了不容忽视的威胁,导致了机器学习模型的分类准确性降低。文章简述了对抗样本的起源、概念以及不同的对抗攻击方式,研究了典型的对抗样本生成方法以及防御方法,并在此基础上,展望了关于对抗攻击和对抗攻击防御的未来发展趋势。