知识卡片

普通读书笔记卡 · 9462 · 生成模型:Claude Opus 4.6

模型窃取的三重目标

理解等级:初级

模型窃取指攻击者通过与模型交互或分析其行为,得到一个功能、性能与受害者模型相近的替代模型,从而省去昂贵的训练投入并侵占对方的知识产权价值。它通常追求三个目标:以远低于原模型训练成本的代价获得可免费使用的模型;窃取模型在功能与性能上与原模型相当;整个过程避开检测,事后也难以被溯源。黑盒接口越普及,这类攻击越有现实意义——攻击者只需有限次查询 API、观察输出并不断调整输入,就能逐步逼近受害者模型的决策边界。未经授权复制、微调和去除水印同样属于知识产权侵犯,但模型窃取更有针对性:即使目标模型不公开,也能借服务接口完成。具体窃取路径见[[三类窃取路径]]。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《人工智能数据与模型安全 (姜育刚马兴军吴祖煊)》第10章《模型安全:窃取攻防》(源文件:extracted/人工智能数据与模型安全 (姜育刚马兴军吴祖煊)/_epub-src/EPUB/xhtml/chapter15_0002.xhtml) - 结论依据:模型窃取指攻击者通过与模型交互或分析其行为,得到一个功能、性能与受害者模型相近的替代模型,从而省去昂贵的训练投入并侵占对,原文从「10.1 模型窃取攻击」处给出对应机制与依据,支撑本卡结论。 - 原始内容:● 低代价:以远低于受害者模型训练成本的代价获得一个可免费使用的窃取模型。 ● 高收益:窃取得到的模型与受害者模型的功能和性能相当。 ● 低风险:在窃取过程中可以避开相关检测并在窃取完成后无法被溯源。