知识卡片
成员推断判断训练参与
成员推断试图判断一条记录是否参与过训练,不要求恢复记录全部内容。若训练集合本身具有敏感含义,参与信息就可能造成隐私伤害。过拟合及输出差异可提供线索,风险需结合数据含义和服务反馈条件评价。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 网络安全 模型攻击面与防御研究问题 · 查看原书依据
判断数据样本是否属于训练数据集。研究面向对比学习预训练编码器的数据成员推断技术,利用对比学习中的过拟合,基于对比学习中的数据增强流程,对给定的输入数据进行随机变换,并基于此进行成员推断。 在针对基于以ChatGPT为代表的生成式人工智能的网
参考来源
- 位置:《人工智能安全》网络安全,模型攻击面与防御研究问题(源项目a19c7933-4eda-4176-aebd-30fe7e1ad292,源文件:extracted/人工智能安全/_epub-src/EPUB/xhtml/Section0001_0009.xhtml)
- 结论依据:原文对该概念的说明、比较或案例支撑本卡解释;书中历史数据与技术预测保留原有时点,不当作当前已验证结论。
- 原始内容:判断数据样本是否属于训练数据集。研究面向对比学习预训练编码器的数据成员推断技术,利用对比学习中的过拟合,基于对比学习中的数据增强流程,对给定的输入数据进行随机变换,并基于此进行成员推断。 在针对基于以ChatGPT为代表的生成式人工智能的网