知识卡片
对抗训练优化最坏损失
对抗训练在限定扰动集合内,先对固定模型寻找高损失输入,再更新模型降低该类最坏损失。内层优化输入,外层优化参数。得到的鲁棒性依赖扰动模型与求解能力,不能视为对未知攻击的全面免疫。
结构图:
flowchart TD
A[定义允许扰动] --> B[固定模型寻找高损失输入]
B --> C[更新模型降低最坏损失]
C --> D[评估限定威胁下的表现]
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 网络安全 鲁棒训练的最小最大结构 · 查看原书依据
内层的最大化问题的目标是寻找能够使损失函数最大化的被干扰数据,即在所定义的攻击模型中,对一个给定的数据能够产生最大化扰动,使神经网络模型参数被调整为能够将损失函数最大化的值。这对应最优化的对抗样本生成方法。外层的最小化问题的目标为寻找一组神
参考来源
- 位置:《人工智能安全》网络安全,鲁棒训练的最小最大结构(源项目a19c7933-4eda-4176-aebd-30fe7e1ad292,源文件:extracted/人工智能安全/_epub-src/EPUB/xhtml/Section0001_0009.xhtml)
- 结论依据:原文对该概念的说明、比较或案例支撑本卡解释;书中历史数据与技术预测保留原有时点,不当作当前已验证结论。
- 原始内容:内层的最大化问题的目标是寻找能够使损失函数最大化的被干扰数据,即在所定义的攻击模型中,对一个给定的数据能够产生最大化扰动,使神经网络模型参数被调整为能够将损失函数最大化的值。这对应最优化的对抗样本生成方法。外层的最小化问题的目标为寻找一组神