知识卡片
数据窃取升级
数据窃取比成员推理、属性推理更进一步,目标是尽可能还原出原始训练数据本身,而不只是判断成员身份或推断某个属性。它依赖模型在训练中对数据的记忆:高容量模型、生成模型以及重复出现的样本都更容易被记住,从而留下可逆向的痕迹。与属性推理只暴露单个属性相比,数据窃取往往泄露整个数据集,危害更大、影响更广,实现难度也更高。因此防护不能只依赖访问控制与输出遮蔽,还要在训练环节抑制记忆,例如去重复、正则化与差分隐私,并可借助预埋的先兆数据量化模型究竟记住了多少。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 数据安全:攻击 4.3 数据窃取 · 查看原书依据
而对于数据窃取攻击来说,它的目标是最大程度地还原训练数据。虽然属性推理攻击也会在一定程度上泄露隐私信息,但是其所涉及的对象往往是单个隐私属性,而数据窃取攻击往往泄露的是整个数据集,所造成的危害更大、影响范围更广。
参考来源
- 位置:《人工智能数据与模型安全 (姜育刚马兴军吴祖煊)》第4章《数据安全:攻击》(源文件:extracted/人工智能数据与模型安全 (姜育刚马兴军吴祖煊)/_epub-src/EPUB/xhtml/chapter9_0004.xhtml)
- 结论依据:数据窃取比成员推理、属性推理更进一步,目标是尽可能还原出原始训练数据本身,而不只是判断成员身份或推断某个属性。它依赖模型,原文从「4.3 数据窃取」处给出对应机制与依据,支撑本卡结论。
- 原始内容:而对于数据窃取攻击来说,它的目标是最大程度地还原训练数据。虽然属性推理攻击也会在一定程度上泄露隐私信息,但是其所涉及的对象往往是单个隐私属性,而数据窃取攻击往往泄露的是整个数据集,所造成的危害更大、影响范围更广。