知识卡片

普通读书笔记卡 · 6473.d.3.c.2.f.5 · 生成模型:未记录

预处理防御须评估自适应攻击

理解等级:中级

模糊、压缩或随机变换等预处理可能削弱某些已知扰动,也可能损害正常样本。若攻击者知晓防御并将它纳入优化,原本有效的防御可能失效;随机化也应在攻击者了解分布时测试,而非依赖保密。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 对抗攻击 12.7 防御方式中的被动防御 · 查看原书依据

      被动防御其实有一个非常大的弱点,虽然模糊化非常有效,但是一旦被人知道我们在用模糊化这种防御方法,这种防御就失去了作用.我们完全可以把模糊化想成网络的第一层,相当于在原始网络的前面多加了一层,假设别人知道我们的网络多加了这一层,直接把多加的这一层同样放到攻击的过程中就可以了.在攻击的时候产生一个相反的信号,就可以躲过模糊化这种防御了. 所以这种被动防御的方式强大的前提是别人不知道我们用了这一招.一旦别人知道我们的招数,这种被动防御的方式就会瞬间失去作用.

    参考来源

    - 位置:《深度学习详解》第12章《对抗攻击》12.7 防御方式中的被动防御(来源项目 book-source:`extracted/深度学习详解/_epub-src/OEBPS/Text/Chapter12.xhtml`) - 结论依据:原书说明攻击优化、迁移和防御;效果限定在具体威胁模型内。 - 原始内容:被动防御其实有一个非常大的弱点,虽然模糊化非常有效,但是一旦被人知道我们在用模糊化这种防御方法,这种防御就失去了作用.我们完全可以把模糊化想成网络的第一层,相当于在原始网络的前面多加了一层,假设别人知道我们的网络多加了这一层,直接把多加的这一层同样放到攻击的过程中就可以了.在攻击的时候产生一个相反的信号,就可以躲过模糊化这种防御了. 所以这种被动防御的方式强大的前提是别人不知道我们用了这一招.一旦别人知道我们的招数,这种被动防御的方式就会瞬间失去作用.