← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9460 · 生成模型:Claude Opus 4.6

后门攻击机制

理解等级:中级

后门攻击是一种训练阶段的安全威胁:攻击者在训练前或训练中向模型植入隐藏触发器,使模型对正常输入表现如常,只在触发器出现时输出攻击者指定的结果。它必须同时满足两个条件——干净样本上准确率正常,以及带触发器时精准受控,前者保证隐蔽,后者实现操纵。与普通数据投毒只拉低整体准确率不同,后门攻击是有目标的定向攻击,常规测试集很难覆盖触发条件,因而更难被发现。触发器一旦注入便容易被反复利用,训练外包与预训练模型复用还会让风险沿供应链传导,仅凭基准分数无从察觉。可与[[BadNets警示]]对照理解。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《人工智能数据与模型安全 (姜育刚马兴军吴祖煊)》第8章《模型安全:后门攻击》(源文件:extracted/人工智能数据与模型安全 (姜育刚马兴军吴祖煊)/_epub-src/EPUB/xhtml/chapter13_0001.xhtml) - 结论依据:后门攻击是一种训练阶段的安全威胁:攻击者在训练前或训练中向模型植入隐藏触发器,使模型对正常输入表现如常,只在触发器出现时,原文从「模型安全:后门攻击」处给出对应机制与依据,支撑本卡结论。 - 原始内容:后门攻击与对抗攻击不同,是一种训练阶段的攻击,攻击者在训练开始前或者训练过程中通过某种方式往目标模型中安插后门触发器,从而可以在测试阶段精准地控制模型的预测结果。