知识卡片
梯度符号法与投影约束
在固定模型参数时,攻击可沿输入损失梯度方向寻找扰动。FGSM 对无目标攻击按梯度符号进行单步更新,步长取扰动预算;迭代版本每步更新后投影回允许区域,并限制输入有效范围。实际效果依赖损失、预算和模型。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 对抗攻击 12.3 快速梯度符号法 · 查看原书依据
所谓的攻击还有很多不同的变体,不过大同小异,它们通常要么限制不一样,要么优化的方法不一样.接下来介绍一种最简单的攻击方法,叫作快速梯度符号法(Fast Gradient Sign Method,FGSM).一般我们在做梯度下降的时候,需要迭代更新参数很多次,但有了这种方法以后,只需要更新一次参数就可以了,原理如图12.7所示.
参考来源
- 位置:《深度学习详解》第12章《对抗攻击》12.3 快速梯度符号法(来源项目 book-source:`extracted/深度学习详解/_epub-src/OEBPS/Text/Chapter12.xhtml`)
- 结论依据:原书说明攻击优化、迁移和防御;效果限定在具体威胁模型内。
- 原始内容:所谓的攻击还有很多不同的变体,不过大同小异,它们通常要么限制不一样,要么优化的方法不一样.接下来介绍一种最简单的攻击方法,叫作快速梯度符号法(Fast Gradient Sign Method,FGSM).一般我们在做梯度下降的时候,需要迭代更新参数很多次,但有了这种方法以后,只需要更新一次参数就可以了,原理如图12.7所示.