面向机器学习模型的基于PCA的成员推理隐私攻击

作者：彭长根; 高婷; 刘惠篮; 丁红发

来源：通信学报, 2022, 1-12.

• 机器学习
• 对抗样本
• 成员推理攻击
• 主成分分析
• 隐私泄露

针对目前黑盒成员推理攻击存在的访问受限失效问题，提出基于主成分分析（PCA）的成员推理隐私攻击。首先，针对黑盒成员推理攻击存在的访问受限问题，提出一种快速决策成员推理攻击fast-attack。在基于距离符号梯度获取扰动样本的基础上将扰动难度映射到距离范畴来进行成员推理，确保攻击稳健性的同时降低访问成本；其次，针对快速决策成员推理攻击存在的低迁移率问题，提出一种基于PCA的成员推理攻击PCA-based attack。将快速决策成员推理攻击中的基于扰动算法与主成分分析技术相结合来实现成员推理，以抑制因过度依赖模型而导致的低迁移行为。实验表明，fast-attack在确保攻击精度的同时降低了访问成本，PCA-based attack在无监督的设置下优于基线攻击，攻击性能与目前的黑盒成员推理攻击相匹敌，且模型迁移率相比fast-attack提升10%。

• 单位
  贵州大学; 贵州财经大学