← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 6473.d.3.c.2.f.5.a · 生成模型:未记录

对抗训练的适用边界

理解等级:中级

对抗训练在训练中构造扰动样本并用正确标签更新模型,以提高特定威胁模型下的鲁棒性;其代价包括额外计算,且对未覆盖的攻击或扰动范围不保证有效。评估应同时报告正常准确率、攻击能力与稳健准确率。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 对抗攻击 12.8 防御方式中的主动防御 · 查看原书依据

      主动防御的思路是,在训练模型的时候,一开始就要训练一个比较不会被攻破的鲁棒性非常强的模型,这种训练方式被称为对抗训练. 对抗训练就是在训练的时候,不要只用原始的训练数据,还要加入一些攻击的数据,如图12.22所示.具体来说,我们有一些特殊的训练数据,它们和普通的训练数据是一样的. 以图像为例,图像用来表示,对应的标签用来表示.然后使用训练数据训练一个模型,并且在训练阶段就对这个模型进行攻击. 为训练数据加入一些噪声,从而产生一些攻击的数据,将受到攻击后的图像用来表示.将训练数据里的每一张图片都拿出来进行攻击,攻击完以后,再给这些被攻击过的图片标上正确的标签,这样就产生了新的数据集,用来表示,这个数据集会让机器产生错误. 接下来,同时使用和原始数据集进行训练,这样就可以训练出一个比较不会被攻破的模型了.

    参考来源

    - 位置:《深度学习详解》第12章《对抗攻击》12.8 防御方式中的主动防御(来源项目 book-source:`extracted/深度学习详解/_epub-src/OEBPS/Text/Chapter12.xhtml`) - 结论依据:原书说明攻击优化、迁移和防御;效果限定在具体威胁模型内。 - 原始内容:主动防御的思路是,在训练模型的时候,一开始就要训练一个比较不会被攻破的鲁棒性非常强的模型,这种训练方式被称为对抗训练. 对抗训练就是在训练的时候,不要只用原始的训练数据,还要加入一些攻击的数据,如图12.22所示.具体来说,我们有一些特殊的训练数据,它们和普通的训练数据是一样的. 以图像为例,图像用来表示,对应的标签用来表示.然后使用训练数据训练一个模型,并且在训练阶段就对这个模型进行攻击. 为训练数据加入一些噪声,从而产生一些攻击的数据,将受到攻击后的图像用来表示.将训练数据里的每一张图片都拿出来进行攻击,攻击完以后,再给这些被攻击过的图片标上正确的标签,这样就产生了新的数据集,用来表示,这个数据集会让机器产生错误. 接下来,同时使用和原始数据集进行训练,这样就可以训练出一个比较不会被攻破的模型了.