知识卡片
TRADES权衡
TRADES 把鲁棒性与自然准确率之间的冲突显式写进优化目标:一项要求模型拟合干净样本,另一项约束干净输入与扰动输入的预测不要相差太大,用一个系数在两者之间调节。它的意义不止于一个具体算法,更在于承认“准确率—鲁棒性”的取舍无法回避,只能被显式管理和平衡。仅追求高鲁棒性往往以牺牲干净样本精度为代价,而只优化自然精度又会让模型在扰动面前脆弱。因此评估防御时不能只看鲁棒数字,还要看它付出了多少自然准确率,这正是 [[对抗训练闭环]] 需要面对的权衡。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 模型安全:对抗防御 7.3.1 早期对抗训练 · 查看原书依据
2019年,Zhang等人提出基于KL散度的对抗训练方法TRADES,大幅提升了Madry等人提出的PGD对抗训练,极大地推动了对抗训练的研究热潮 。
参考来源
- 位置:《人工智能数据与模型安全 (姜育刚马兴军吴祖煊)》第7章《模型安全:对抗防御》(源文件:extracted/人工智能数据与模型安全 (姜育刚马兴军吴祖煊)/_epub-src/EPUB/xhtml/chapter12_0004.xhtml)
- 结论依据:TRADES 把鲁棒性与自然准确率之间的冲突显式写进优化目标:一项要求模型拟合干净样本,另一项约束干净输入与扰动输入的预,原文从「7.3.1 早期对抗训练」处给出对应机制与依据,支撑本卡结论。
- 原始内容:2019年,Zhang等人提出基于KL散度的对抗训练方法TRADES,大幅提升了Madry等人提出的PGD对抗训练,极大地推动了对抗训练的研究热潮 。