← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9459.c · 生成模型:Claude Opus 4.6

TRADES权衡

理解等级:高级

TRADES 把鲁棒性与自然准确率之间的冲突显式写进优化目标:一项要求模型拟合干净样本,另一项约束干净输入与扰动输入的预测不要相差太大,用一个系数在两者之间调节。它的意义不止于一个具体算法,更在于承认“准确率—鲁棒性”的取舍无法回避,只能被显式管理和平衡。仅追求高鲁棒性往往以牺牲干净样本精度为代价,而只优化自然精度又会让模型在扰动面前脆弱。因此评估防御时不能只看鲁棒数字,还要看它付出了多少自然准确率,这正是 [[对抗训练闭环]] 需要面对的权衡。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《人工智能数据与模型安全 (姜育刚马兴军吴祖煊)》第7章《模型安全:对抗防御》(源文件:extracted/人工智能数据与模型安全 (姜育刚马兴军吴祖煊)/_epub-src/EPUB/xhtml/chapter12_0004.xhtml) - 结论依据:TRADES 把鲁棒性与自然准确率之间的冲突显式写进优化目标:一项要求模型拟合干净样本,另一项约束干净输入与扰动输入的预,原文从「7.3.1 早期对抗训练」处给出对应机制与依据,支撑本卡结论。 - 原始内容:2019年,Zhang等人提出基于KL散度的对抗训练方法TRADES,大幅提升了Madry等人提出的PGD对抗训练,极大地推动了对抗训练的研究热潮 。