联邦学习中的隐私保护技术

作者：刘艺璇; 陈红^*; 刘宇涵; 李翠平

来源：软件学报, 2022, 33(03): 1057-1092.

DOI：10.13328/j.cnki.jos.006446

• 联邦学习
• 隐私保护
• 隐私攻击
• 差分隐私
• 同态加密
• 安全计算

联邦学习是顺应大数据时代和人工智能技术发展而兴起的一种协调多个参与方共同训练模型的机制.它允许各个参与方将数据保留在本地,在打破数据孤岛的同时保证参与方对数据的控制权.然而联邦学习引入了大量参数交换过程,不仅和集中式训练一样受到模型使用者的威胁,还可能受到来自不可信的参与设备的攻击,因此亟需更强的隐私手段保护各方持有的数据.分析并展望了联邦学习中的隐私保护技术的研究进展和趋势.简要介绍联邦学习的架构和类型,分析联邦学习过程中面临的隐私风险,总结重建、推断两种攻击策略,然后依据联邦学习中的隐私保护机制归纳隐私保护技术,并深入调研应用上述技术的隐私保护算法,从中心、本地、中心与本地结合这3个层面总结现有的保护策略.最后讨论联邦学习隐私保护面临的挑战并展望未来的发展方向.

• 单位
  中国人民大学; 数据工程与知识工程教育部重点实验室