知识卡片
隐私预算含义
差分隐私把保护隐私变成可度量的约束:它要求数据集中任一单个个体是否出现,都不会让查询或训练结果的概率分布发生显著变化,通常用相邻数据集(只差一条记录)上的输出差异来刻画。隐私预算ϵ控制这种差异的上限,ϵ越小,两个相邻数据集返回相似结果的概率越接近,保护越强,但可用于学习的信号也被削弱,模型效用往往下降;δ则允许极小概率突破约束,δ=0时称为纯差分隐私。这个机制的实用价值在于可组合:顺序作用多个机制时预算相加,作用在数据不同子集上时取最大值,从而能在整个流程上核算总隐私开销。代价是必须事先确定可接受的效用损失,否则保护名存实亡。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 数据安全:防御 5.2.1 差分隐私概念 · 查看原书依据
上式中,ϵ称为隐私预算(privacy budget),ϵ越小则隐私预算越低,意味着差分隐私算法使得查询函数在一对相邻数据集上返回结果的概率分布越相似,故而隐私保护程度越高。
参考来源
- 位置:《人工智能数据与模型安全 (姜育刚马兴军吴祖煊)》第5章《数据安全:防御》(源文件:extracted/人工智能数据与模型安全 (姜育刚马兴军吴祖煊)/_epub-src/EPUB/xhtml/chapter10_0003.xhtml)
- 结论依据:差分隐私把保护隐私变成可度量的约束:它要求数据集中任一单个个体是否出现,都不会让查询或训练结果的概率分布发生显著变化,通,原文从「5.2.1 差分隐私概念」处给出对应机制与依据,支撑本卡结论。
- 原始内容:上式中,ϵ称为隐私预算(privacy budget),ϵ越小则隐私预算越低,意味着差分隐私算法使得查询函数在一对相邻数据集上返回结果的概率分布越相似,故而隐私保护程度越高。