科研之友
微信
新浪微博
Facebook
分享链接
摘要
近年来，机器学习不仅在计算机视觉、自然语言处理等领域取得了显著成效，也被广泛应用于人脸图像、金融数据、医疗信息等敏感数据处理领域。最近，研究人员发现机器学习模型会记忆它们训练集中的数据，导致攻击者可以对模型实施成员推断攻击，即攻击者可以推断给定数据是否存在于某个特定机器学习模型的训练集。成员推断攻击的成功，可能导致严重的个人隐私泄露。例如，如果能确定某个人的医疗记录属于某医院的数据集，则表明这个人曾经是那家医院的病人。首先介绍了成员推断攻击的基本原理；然后系统地对近年来代表性攻击和防御的研究进行了总结和归类，特别针对不同条件设置下如何进行攻击和防御进行了详细的阐述；最后通过回顾成员推断攻击的发展历程，探究机器学习隐私保护面临的主要挑战和未来潜在的发展方向。
- 单位
