知识卡片

普通读书笔记卡 · 9463.a · 生成模型:Claude Opus 4.6

防御走向组合

理解等级:中级

单一防御手段很难同时抵御投毒、隐私泄露、对抗样本、后门和模型窃取等性质各异的威胁,因为针对某一类攻击的优化往往顾此失彼,甚至削弱模型正常性能。更可靠的思路是组合防御:训练前净化数据、训练中加固更新过程、部署后管控查询并检测异常,再用统一评估体系持续校准风险。组合的关键在于让不同方法取长补短而非简单堆叠,明确每种手段覆盖的攻击面与相互代价,才能形成兼顾安全性与可用性的纵深体系,并与[[推理阶段防御]]相互衔接。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 未来展望 11.2 未来防御 · 查看原书依据

      组合防御。当前研究表明,单个防御方法已经难以防御多种攻击,这就需要融合不同防御方法以构建更全面的防御体系,比如攻击检测和鲁棒性增强的组合、输入去噪和鲁棒训练的组合、对抗防御和后门防御的组合等。

    参考来源

    - 位置:《人工智能数据与模型安全 (姜育刚马兴军吴祖煊)》第11章《未来展望》(源文件:extracted/人工智能数据与模型安全 (姜育刚马兴军吴祖煊)/_epub-src/EPUB/xhtml/chapter16_0003.xhtml) - 结论依据:单一防御手段很难同时抵御投毒、隐私泄露、对抗样本、后门和模型窃取等性质各异的威胁,因为针对某一类攻击的优化往往顾此失彼,,原文从「11.2 未来防御」处给出对应机制与依据,支撑本卡结论。 - 原始内容:组合防御。当前研究表明,单个防御方法已经难以防御多种攻击,这就需要融合不同防御方法以构建更全面的防御体系,比如攻击检测和鲁棒性增强的组合、输入去噪和鲁棒训练的组合、对抗防御和后门防御的组合等。