原书出处
深度学习详解
12 对抗攻击 12.1 对抗攻击简介
图12.1给出了一个网络攻击的例子.之前我们已经训练了图像识别模型,给它一张照片,它可以告诉我们这张照片属于什么类别.我们要做的攻击就是给这张照片加入非常小的噪声. 具体方法是,一张照片可以看作一个矩阵,在这个矩阵的每一个数据上都加入一个小小的噪声,然后把这张加入噪声的照片输入网络,查看输出的分类结果.我们把被加入噪声的照片叫作受到攻击的图像,而把没有被加入噪声的照片叫作原始图像.将原始图像输入网络后,输出是猫,我们作为攻击方,期待受到攻击的图像的输出不是猫,而是其他结果.攻击大致上分成两种类型:一种是无目标攻击,只要受到攻击的图像的输出不是猫就算攻击成功;另一种是有目标攻击,我们希望受到攻击的图像的输出是狮子等,也就是说,我们希望网络不仅输出不能是猫,还要输出特定的结果,这样才算攻击成功.
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/深度学习详解/_epub-src/OEBPS/Text/Chapter12.xhtml
EPUB SHA-256:35d2d4b7de742e0ce7756e7fb57c534014bf33cecdf0483a75e23cb7446cb7dc