知识卡片
属性推理风险
属性推理攻击不还原完整训练样本,而是利用已发布模型的输出,从给定样本的非敏感属性推断其敏感属性。例如由身高、年龄、体重等公开信息配合模型给出的预测,推断个体的基因组等隐私特征。它与成员推理回答的问题不同:成员推理判断“这条数据是否被训练过”,属性推理则回答“这条数据具有什么隐藏特征”;与数据窃取相比,它通常只泄露单个敏感属性而非整个数据集。联邦学习等分布式场景尤其值得警惕,参与方虽不直接共享原始数据,但共享的梯度或中间更新仍可能显露群体或个体属性。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 数据安全:攻击 4.2.2 属性推理攻击 · 查看原书依据
属性推理攻击(attribute inference attack,AIA)来源于模型逆向攻击(model inversion attack),是针对个体属性的隐私攻击。攻击者基于已发布的目标模型,从给定样本的非敏感属性中推断其敏感属性。
参考来源
- 位置:《人工智能数据与模型安全 (姜育刚马兴军吴祖煊)》第4章《数据安全:攻击》(源文件:extracted/人工智能数据与模型安全 (姜育刚马兴军吴祖煊)/_epub-src/EPUB/xhtml/chapter9_0003.xhtml)
- 结论依据:属性推理攻击不还原完整训练样本,而是利用已发布模型的输出,从给定样本的非敏感属性推断其敏感属性。例如由身高、年龄、体重等,原文从「4.2.2 属性推理攻击」处给出对应机制与依据,支撑本卡结论。
- 原始内容:属性推理攻击(attribute inference attack,AIA)来源于模型逆向攻击(model inversion attack),是针对个体属性的隐私攻击。攻击者基于已发布的目标模型,从给定样本的非敏感属性中推断其敏感属性。