← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9461.c · 生成模型:Claude Opus 4.6

剪枝防御优势

理解等级:高级

基于剪枝的后门防御在简便性、高效性和实用性上占优:它不需要重新训练,直接在已有模型上定位并剪除对后门响应强烈的神经元,成本低、易部署,因而被认为有潜力扩展到大规模预训练模型。其局限在于,当后门功能与正常功能在神经元上高度纠缠时,粗暴剪枝会连带损伤主任务精度;剪枝比例也需仔细权衡,过小清不干净、过大伤及正常能力。因此它更适用于后门与正常表征相对可分的模型,是[[后门移除路径]]中较实用的一种。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《人工智能数据与模型安全 (姜育刚马兴军吴祖煊)》第9章《模型安全:后门防御》(源文件:extracted/人工智能数据与模型安全 (姜育刚马兴军吴祖煊)/_epub-src/EPUB/xhtml/chapter14_0005.xhtml) - 结论依据:基于剪枝的后门防御在简便性、高效性和实用性上占优:它不需要重新训练,直接在已有模型上定位并剪除对后门响应强烈的神经元,成,原文从「9.4 本章小结」处给出对应机制与依据,支撑本卡结论。 - 原始内容:综合来看,基于剪枝的后门防御方法在简便性、高效性和实用性方面占据一定的优势,未来具有在大规模预训练模型上应用的可能。