知识卡片

普通读书笔记卡 · 2688.c.1.b.8.d

指数机制与本地化差分隐私

理解等级:高级

离散型:指数机制。足球协会在线选举,100 票中张三 50、李四 35、王五 15,目标是任何人都不能知道某一张票投给了谁。做法是不输出得票数,而输出每位候选人加干扰后的胜出概率:输出候选 o 的概率正比于 $\exp(\varepsilon\, q(D,o)/(2\Delta q))$,其中 q 为得票数,敏感度 $\Delta q=1$(增删一张票最多变化 1)。

ε 张三、李四、王五胜出概率
0 各 33.3%,没有差异,不泄露隐私但数据没法用
0.1 约 60.75%、28.70%、10.56%;张三减一票后变为 59.55%,比值约 1.02,落在 $e^{-0.1}\approx0.90$ 与 $e^{0.1}\approx1.11$ 之间,符合定义
0.5 约 97.7%、2.3%、0.02%
1 约 99.94%,得票最多者被极度放大

ε 的选择需要在保障数据可用的前提下权衡。

按处理位置分两类(就近处理原则):

  • 本地化差分隐私:数据从用户侧采集(如手机 App 的浏览记录),在本地抽样统计并加噪后再上传。苹果 iOS 即采用此技术,且敏感度较高的数据使用相对较小的 ε;
  • 中心化差分隐私:数据在服务器侧(如医疗数据),在交互式查询接口的结果上加噪后再提供。

实战:统计员工平均身高而不获取真实身高。每人只上报加噪后的身高(GS = 50,ε = 4):

  • 10000 个均匀分布身高:真实均值 174.77,加噪后 174.82,误差约 1 毫米;
  • 10000 个正态分布身高(均值 170、标准差 4):真实均值 170.04,加噪后 170.21,误差约 2 毫米;而单个人加噪后的身高(如 172.25 变成 214.25)已明显偏离,不会泄露个人真实身高。

每次加噪都是独立事件,在一台电脑上模拟多次和多台电脑各加一次,结果都符合统计意义上的拉普拉斯分布——这正是本地化差分隐私成立的依据:个体值失真,总体统计依然可用。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《数据安全架构设计与实战》第18章《第18章 隐私保护增强技术》18.3.5 离散型差分隐私;18.3.6 差分隐私案例;18.3.7 差分隐私实战(源文件:extracted/数据安全架构设计与实战/_epub-src/OEBPS/text00023.html,来源项目 book-sources) - 结论依据:18.3.5节以足球协会选举说明指数机制公式与ε=0、0.1、0.5、1时的胜出概率及差分隐私验证;18.3.6节区分本地化与中心化差分隐私并以苹果iOS为例;18.3.7节以员工平均身高的均匀分布与正态分布实验说明个体加噪后总体均值误差仅毫米级,并解释独立加噪事件的统计等价性。 - 原始内容:可见当ε 增大时,得票最多的选项(“张三”),其胜出概率被极度放大了。