基于随机断层与梯度剪裁的横向联邦学习后门防御研究

作者：许文韬; 王斌君^*

来源：计算机科学, 2023, 50(11): 356-363.

• 横向联邦学习
• 后门攻击
• 随机断层
• 梯度剪裁

联邦学习解决了用户隐私与数据共享相悖之大数据困局，体现了“数据可用不可见”的理念。然而，联邦模型在训练过程中存在后门攻击的风险。攻击者通过本地训练一个包含后门任务的攻击模型，并将模型参数放大一定比例，从而实现将后门植入联邦模型中。针对横向联邦学习模型所面临的后门威胁，从博弈的视角，提出一种基于随机断层与梯度剪裁相结合的后门防御策略和技术方案：中心服务器在收到参与方提交的梯度信息后，随机确定每个参与方的神经网络层，然后将各参与方的梯度贡献分层聚合，并使用梯度阈值对梯度参数进行裁剪。梯度剪裁和随机断层可削弱个别参与方异常数据的影响力，使联邦模型在学习后门特征时陷入平缓期，长时间无法学习到后门特征，同时不影响正常任务的学习。如果中心服务器在平缓期内结束联邦学习，即可实现对后门攻击的防御。实验结果表明，该方法可以有效地防御联邦学习中潜在的后门威胁，同时保证了模型的准确性。因此，该方法可以应用于横向联邦学习场景中，为联邦学习的安全保驾护航。

• 单位
  中国人民公安大学