知识卡片

普通读书笔记卡 · 6473.d.3.c.2.f.6 · 生成模型:GPT-6

对抗扰动揭示模型脆弱性

理解等级:中级

对抗样本是在规定扰动范围内刻意改变输入,使特定模型误分类;攻击可以针对单个样本或尝试跨样本的通用扰动。评估应写明攻击者知识、扰动度量和预算,并在相应威胁模型下衡量鲁棒性;并不能由个别例子推断任何模型和任何输入都必然可被同样方式攻破。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《深度学习:从基础到实践(上下册)》第21章《卷积神经网络》21.10(来源项目 `extracted/深度学习:从基础到实践(上下册)/_epub-src/text/part0029_split_010.html`) - 结论依据:这个“欺骗”我们的卷积网络的诀窍。 - 原始内容:这个“欺骗”我们的卷积网络的诀窍涉及创建一个称为对手的新图像。该图像是通过对原始图像添加对抗扰动(adversarial perturbation),或更简单地说,扰动(perturbation)创建的,这是一个我们看起来像随机噪声的图像。