知识卡片
物理攻击需要跨条件测试
真实世界对抗扰动经过打印、拍摄、角度、距离、光照和传感器等变化,数字空间有效不保证实体环境有效。评估应明确物理条件及采样范围,并测量这些变化下的成功率。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 对抗攻击 12.6 现实世界中的攻击 · 查看原书依据
首先,在现实世界中,我们在观察一个东西的时候,可以从多个角度去看. 之前有人觉得攻击也许不是那么危险,因为就是一张图片,只有加入某个特定的噪声,才能让这张图片被识别错误. 也许噪声在某个角度欺骗成功了,但它很难在所有的角度都骗过图像分类系统.其次,摄像头的清晰度是有限的,所以如果添加的噪声非常小,那摄像头有可能根本没有办法注意到.最后,考虑到某些颜色可能在计算机上和在真实世界中的表现不一样,这就要求我们在设计这种眼镜的时候要充分考虑到这些问题.所以说真实世界中的攻击比虚拟世界中的攻击更加困难,需要考虑的实际问题也会更多.
参考来源
- 位置:《深度学习详解》第12章《对抗攻击》12.6 现实世界中的攻击(来源项目 book-source:`extracted/深度学习详解/_epub-src/OEBPS/Text/Chapter12.xhtml`)
- 结论依据:原书说明攻击优化、迁移和防御;效果限定在具体威胁模型内。
- 原始内容:首先,在现实世界中,我们在观察一个东西的时候,可以从多个角度去看. 之前有人觉得攻击也许不是那么危险,因为就是一张图片,只有加入某个特定的噪声,才能让这张图片被识别错误. 也许噪声在某个角度欺骗成功了,但它很难在所有的角度都骗过图像分类系统.其次,摄像头的清晰度是有限的,所以如果添加的噪声非常小,那摄像头有可能根本没有办法注意到.最后,考虑到某些颜色可能在计算机上和在真实世界中的表现不一样,这就要求我们在设计这种眼镜的时候要充分考虑到这些问题.所以说真实世界中的攻击比虚拟世界中的攻击更加困难,需要考虑的实际问题也会更多.