知识卡片
差分隐私与隐私预算ε
差分攻击:医院候诊大屏显示准确人数,某人进去前 90 人、进去后 91 人,现场的人就知道他是来看病而不是探望朋友。如果显示“大约 90 人”且前后不变,就保护了他的隐私。
差分隐私(Differential Privacy,DP,微软研究院 Dwork 2006 年提出)在原始查询结果中加入噪声再返回,在不影响统计分析的前提下无法定位到自然人。适用于统计聚合数据(连续或离散数值),如交互式统计查询接口、API、用户侧数据统计。
核心思路:在数据集中增加或减少一条记录,得到几乎相同的输出——任何一条记录在不在数据集中,对结果的影响都可忽略,从而无法还原任何一条原始记录。形式化地,D 与 D’ 为只差一条记录的临近数据集,算法 A 对所有输出 V 满足:
$$P[A(D)=V] \le e^{\varepsilon} \cdot P[A(D’)=V]$$
ε 较小时 $e^{\varepsilon} \approx 1+\varepsilon$(如 $e^{0.1}\approx1.105$)。满足该要求的算法称为 ε-差分隐私(ε-DP)。
ε 是隐私保护预算:
- ε 越小,泄露风险越小,但噪声越大、研究价值越小;
- ε = 0 表示所有临近数据集输出完全相同,不可能泄露任何隐私,但对研究机构也就没有价值了。
差分隐私从数学上证明:即使攻击者掌握除某一条记录之外的所有记录(最大背景知识假设),也无法确定这条记录的隐私内容;它同时给出了隐私保护水平的严谨定义和量化评估方法,因此一出现就成为隐私保护研究的热点。
两种噪声机制:
- 拉普拉斯机制:在结果(也可以在输入或中间值)加入拉普拉斯分布噪声,保护数值型结果——例如公司有 5000 名研究生学历职员,加噪后每次查询结果不同,大概率落在 4990~5010,低于 4975 或高于 5025 的概率很小;
- 指数机制:保护离散型结果(如疾病种类)。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第18章 隐私保护增强技术 · 查看原书依据
ε越小,隐私泄露的风险就越小,但是引入的噪声就越大,输出的数据集的研究价值也越小。
参考来源
- 位置:《数据安全架构设计与实战》第18章《第18章 隐私保护增强技术》18.3 差分隐私;18.3.1 差分隐私原理;18.3.2 差分隐私噪声添加机制(源文件:extracted/数据安全架构设计与实战/_epub-src/OEBPS/text00023.html,来源项目 book-sources)
- 结论依据:18.3节用候诊大屏说明差分攻击并介绍差分隐私的提出与适用范围;18.3.1节给出临近数据集定义、ε-差分隐私不等式及近似、ε作为隐私预算的取舍和最大背景知识假设;18.3.2节介绍拉普拉斯机制与指数机制。
- 原始内容:ε越小,隐私泄露的风险就越小,但是引入的噪声就越大,输出的数据集的研究价值也越小。