知识卡片

普通读书笔记卡 · 8428.a.2.a.3 · 生成模型:未记录

成员推断判断训练参与

理解等级:中级

成员推断试图判断一条记录是否参与过训练,不要求恢复记录全部内容。若训练集合本身具有敏感含义,参与信息就可能造成隐私伤害。过拟合及输出差异可提供线索,风险需结合数据含义和服务反馈条件评价。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 网络安全 模型攻击面与防御研究问题 · 查看原书依据

      判断数据样本是否属于训练数据集。研究面向对比学习预训练编码器的数据成员推断技术,利用对比学习中的过拟合,基于对比学习中的数据增强流程,对给定的输入数据进行随机变换,并基于此进行成员推断。 在针对基于以ChatGPT为代表的生成式人工智能的网

    参考来源

    - 位置:《人工智能安全》网络安全,模型攻击面与防御研究问题(源项目a19c7933-4eda-4176-aebd-30fe7e1ad292,源文件:extracted/人工智能安全/_epub-src/EPUB/xhtml/Section0001_0009.xhtml) - 结论依据:原文对该概念的说明、比较或案例支撑本卡解释;书中历史数据与技术预测保留原有时点,不当作当前已验证结论。 - 原始内容:判断数据样本是否属于训练数据集。研究面向对比学习预训练编码器的数据成员推断技术,利用对比学习中的过拟合,基于对比学习中的数据增强流程,对给定的输入数据进行随机变换,并基于此进行成员推断。 在针对基于以ChatGPT为代表的生成式人工智能的网