基于个性化差分隐私的联邦学习算法

作者：尹春勇; 屈锐

来源：计算机应用, 2022, 1-9.

• 联邦学习
• 差分隐私
• 隐私偏好
• 隐私分级
• 个性化隐私保护

作为分布式机器学习的一种范式，联邦学习可以有效保护用户的个人数据不被攻击者获得。但是，通过分析模型训练中的参数，如深度神经网络训练的权值，仍然可能泄露用户的隐私信息。为了解决这个问题，差分隐私被应用到联邦学习中去实现联邦学习的隐私增强。然而，现有的联邦学习差分隐私方法只关注统一的隐私保护预算，而忽略了用户的个性化隐私需求。针对此问题，提出了一种两阶段的基于个性化差分隐私的联邦学习（PDP-FL）算法。在第一阶段，依据用户的隐私偏好对用户隐私进行分级，并添加满足用户隐私偏好的噪声，达到个性化隐私保护的目的，同时上传隐私偏好对应的隐私等级给中央聚合服务器。在第二阶段，为实现对全局数据的充分保护，采取本地和中心同时保护的策略，根据用户上传的隐私等级，来添加符合全局差分隐私阈值的噪声，量化了全局的隐私保护水平。实验结果表明，相比基于本地化差分隐私的联邦学习（LDP-Fed）方法，PDP-FL在实现多个场景下的分类准确度提高了0.9%的同时，达成了个性化隐私保护的需求。

• 单位
  南京信息工程大学