知识卡片

普通读书笔记卡 · 9459 · 生成模型:Claude Opus 4.6

成因假说并存

理解等级:高级

对抗样本并没有单一公认的成因。高度非线性、局部线性、边界倾斜、高维流形与不鲁棒特征五种假说各自解释了部分现象,彼此之间并不完全一致,甚至存在冲突。这种并存意味着防御不能押注在某一个解释上:一个只在特定数据、模型或攻击约束下成立的成因故事,很难推广成通用防线。更稳妥的做法是把假说当作需要检验的假设,验证它在不同条件下是否仍然成立,再据此选择或组合防御。理解这一点也有助于看清 [[检测防御局限]] 与 [[对抗训练闭环]] 各自针对的是哪一类成因。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《人工智能数据与模型安全 (姜育刚马兴军吴祖煊)》第7章《模型安全:对抗防御》(源文件:extracted/人工智能数据与模型安全 (姜育刚马兴军吴祖煊)/_epub-src/EPUB/xhtml/chapter12_0002.xhtml) - 结论依据:对抗样本并没有单一公认的成因。高度非线性、局部线性、边界倾斜、高维流形与不鲁棒特征五种假说各自解释了部分现象,彼此之间并,原文从「7.1 对抗样本成因」处给出对应机制与依据,支撑本卡结论。 - 原始内容:下面将介绍几个经典的假说,包括高度非线性假说、局部线性假说、边界倾斜假说、高维流形假说和不鲁棒特征假说。这些假说都是基于深度学习模型提出的。