联邦学习安全防御与隐私保护技术研究

作者：邱晓慧; 杨波^*; 赵孟晨; 胡师阳; 孙璞

来源：计算机应用研究, 2022, 39(11): 3220-3231.

DOI：10.19734/j.issn.1001-3695.2022.03.0164

• 联邦学习
• 安全风险
• 隐私保护
• 防御机制
• 数据融合

联邦学习(federated learning, FL)在多个参与方不直接进行数据传输的前提下共同完成模型训练，充分发挥各方数据价值；然而，由于联邦学习的固有缺陷以及存储和通信的安全问题，其在实际应用场景中仍面临多种安全与隐私威胁。首先阐述了FL面临的安全攻击和隐私攻击；然后针对这两类典型攻击分别总结了最新的安全防御机制和隐私保护手段，包括投毒攻击防御、后门攻击防御、搭便车攻击防御、女巫攻击防御以及基于安全计算与差分隐私的防御手段。通过对联邦学习的现有风险和相应防御手段的系统梳理，展望了联邦学习未来的研究挑战与发展方向。