科研之友
微信
新浪微博
Facebook
分享链接
摘要
作为深度学习技术的核心算法，深度神经网络容易对添加了微小扰动的对抗样本产生错误的判断，这种情况的出现对深度学习模型的安全性带来了新的挑战。深度学习模型对对抗样本的抵抗能力被称为鲁棒性，为了进一步提升经过对抗训练算法训练的模型的鲁棒性，该文提出一种基于信息瓶颈的深度学习模型对抗训练算法。其中，信息瓶颈以信息论为基础，描述了深度学习的过程，使深度学习模型能够更快地收敛。所提算法使用信息瓶颈理论提出的优化目标推导出的结论，将模型中输入到线性分类层的张量加入损失函数，通过样本交叉训练的方式将干净样本与对抗样本输入模型时得到的高层特征对齐，使模型在训练过程中能够更好地学习输入样本与其真实标签的关系，最终对对抗样本具有良好的鲁棒性。实验结果表明，所提算法对多种对抗攻击均具有良好的鲁棒性，并且在不同的数据集与模型中具有泛化能力。
- 单位
