知识卡片

普通读书笔记卡 · 6473.d.3.c.2.f.1 · 生成模型:未记录

梯度符号法与投影约束

理解等级:中级

在固定模型参数时,攻击可沿输入损失梯度方向寻找扰动。FGSM 对无目标攻击按梯度符号进行单步更新,步长取扰动预算;迭代版本每步更新后投影回允许区域,并限制输入有效范围。实际效果依赖损失、预算和模型。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 对抗攻击 12.3 快速梯度符号法 · 查看原书依据

      所谓的攻击还有很多不同的变体,不过大同小异,它们通常要么限制不一样,要么优化的方法不一样.接下来介绍一种最简单的攻击方法,叫作快速梯度符号法(Fast Gradient Sign Method,FGSM).一般我们在做梯度下降的时候,需要迭代更新参数很多次,但有了这种方法以后,只需要更新一次参数就可以了,原理如图12.7所示.

    参考来源

    - 位置:《深度学习详解》第12章《对抗攻击》12.3 快速梯度符号法(来源项目 book-source:`extracted/深度学习详解/_epub-src/OEBPS/Text/Chapter12.xhtml`) - 结论依据:原书说明攻击优化、迁移和防御;效果限定在具体威胁模型内。 - 原始内容:所谓的攻击还有很多不同的变体,不过大同小异,它们通常要么限制不一样,要么优化的方法不一样.接下来介绍一种最简单的攻击方法,叫作快速梯度符号法(Fast Gradient Sign Method,FGSM).一般我们在做梯度下降的时候,需要迭代更新参数很多次,但有了这种方法以后,只需要更新一次参数就可以了,原理如图12.7所示.