知识卡片
对抗训练的适用边界
对抗训练在训练中构造扰动样本并用正确标签更新模型,以提高特定威胁模型下的鲁棒性;其代价包括额外计算,且对未覆盖的攻击或扰动范围不保证有效。评估应同时报告正常准确率、攻击能力与稳健准确率。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 对抗攻击 12.8 防御方式中的主动防御 · 查看原书依据
主动防御的思路是,在训练模型的时候,一开始就要训练一个比较不会被攻破的鲁棒性非常强的模型,这种训练方式被称为对抗训练. 对抗训练就是在训练的时候,不要只用原始的训练数据,还要加入一些攻击的数据,如图12.22所示.具体来说,我们有一些特殊的训练数据,它们和普通的训练数据是一样的. 以图像为例,图像用来表示,对应的标签用来表示.然后使用训练数据训练一个模型,并且在训练阶段就对这个模型进行攻击. 为训练数据加入一些噪声,从而产生一些攻击的数据,将受到攻击后的图像用来表示.将训练数据里的每一张图片都拿出来进行攻击,攻击完以后,再给这些被攻击过的图片标上正确的标签,这样就产生了新的数据集,用来表示,这个数据集会让机器产生错误. 接下来,同时使用和原始数据集进行训练,这样就可以训练出一个比较不会被攻破的模型了.
参考来源
- 位置:《深度学习详解》第12章《对抗攻击》12.8 防御方式中的主动防御(来源项目 book-source:`extracted/深度学习详解/_epub-src/OEBPS/Text/Chapter12.xhtml`)
- 结论依据:原书说明攻击优化、迁移和防御;效果限定在具体威胁模型内。
- 原始内容:主动防御的思路是,在训练模型的时候,一开始就要训练一个比较不会被攻破的鲁棒性非常强的模型,这种训练方式被称为对抗训练. 对抗训练就是在训练的时候,不要只用原始的训练数据,还要加入一些攻击的数据,如图12.22所示.具体来说,我们有一些特殊的训练数据,它们和普通的训练数据是一样的. 以图像为例,图像用来表示,对应的标签用来表示.然后使用训练数据训练一个模型,并且在训练阶段就对这个模型进行攻击. 为训练数据加入一些噪声,从而产生一些攻击的数据,将受到攻击后的图像用来表示.将训练数据里的每一张图片都拿出来进行攻击,攻击完以后,再给这些被攻击过的图片标上正确的标签,这样就产生了新的数据集,用来表示,这个数据集会让机器产生错误. 接下来,同时使用和原始数据集进行训练,这样就可以训练出一个比较不会被攻破的模型了.