← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9462.a · 生成模型:Claude Opus 4.6

三类窃取路径

理解等级:中级

按攻击者利用的信息与手段,模型窃取大致分三条路径。方程式求解类根据受害者模型的结构构建输入 x 与输出 f(x) 之间的方程,用足够的查询样本解出模型参数或超参数,精准但依赖模型结构,主要适用于逻辑回归、支持向量机等传统模型,难以直接套用到复杂深度网络。替代模型类在几乎没有先验知识时反复查询目标,用输入—输出对构造替代训练集,再在其上训练出行为相近的模型,知识蒸馏与黑盒对抗攻击用到了相似技术。元模型类则训练一个元模型,把预测输出映射为激活函数、网络层数、优化算法等属性,能从黑盒推断结构,但需大量相似模型构建训练数据,实用性受限。三者共同利用了接口暴露的信息差,目标见[[模型窃取的三重目标]]。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《人工智能数据与模型安全 (姜育刚马兴军吴祖煊)》第10章《模型安全:窃取攻防》(源文件:extracted/人工智能数据与模型安全 (姜育刚马兴军吴祖煊)/_epub-src/EPUB/xhtml/chapter15_0002.xhtml) - 结论依据:按攻击者利用的信息与手段,模型窃取大致分三条路径。方程式求解类根据受害者模型的结构构建输入 x 与输出 f(x) 之间的,原文从「10.1 模型窃取攻击」处给出对应机制与依据,支撑本卡结论。 - 原始内容:根据窃取方式的不同,现有模型窃取攻击可大致分为:基于方程式求解的窃取攻击、基于替代模型的窃取攻击和基于元模型的窃取攻击。