知识卡片
水印与溯源
当模型已被窃取,防守方的目标从阻止转为取证:证明嫌疑模型与受害者模型同源、且是后者的衍生品,从而在知识产权诉讼中掌握主动。现有溯源方法分两类。模型水印是侵入式的,训练时把所有者印记嵌入参数或激活分布(白盒水印),或借后门触发器让模型对特定输入输出特定标签(黑盒水印),验证时比对水印或触发器准确率;推理期动态水印甚至让攻击者自己把水印带进窃取的替代模型。模型指纹则是非侵入式的,不改动模型参数,靠决策边界附近的数据点、可授予对抗样本或多指标测试区分模型身份,因此不损害原模型性能。两者都面临鲁棒性差、衍生关系难判定的短板,需组合使用。区别于事前干扰的[[信息模糊代价]]。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 模型安全:窃取攻防 10.2.3 模型溯源 · 查看原书依据
当模型泄露已经发生时,模型所有者需要通过溯源技术证明窃取者所拥有的模型来自于防御者,即两个模型是同源的且窃取模型是受害者模型的衍生品,以此帮助模型拥有者在知识产权诉讼过程中掌握主动权。
参考来源
- 位置:《人工智能数据与模型安全 (姜育刚马兴军吴祖煊)》第10章《模型安全:窃取攻防》(源文件:extracted/人工智能数据与模型安全 (姜育刚马兴军吴祖煊)/_epub-src/EPUB/xhtml/chapter15_0003.xhtml)
- 结论依据:当模型已被窃取,防守方的目标从阻止转为取证:证明嫌疑模型与受害者模型同源、且是后者的衍生品,从而在知识产权诉讼中掌握主动,原文从「10.2.3 模型溯源」处给出对应机制与依据,支撑本卡结论。
- 原始内容:当模型泄露已经发生时,模型所有者需要通过溯源技术证明窃取者所拥有的模型来自于防御者,即两个模型是同源的且窃取模型是受害者模型的衍生品,以此帮助模型拥有者在知识产权诉讼过程中掌握主动权。