知识卡片
范式适配后门
当学习范式从单模型训练转向复用与协作,后门攻击也必须随之改造。迁移学习中,攻击者在教师模型里预先安插后门,再用其初始化学生模型,使后门沿微调路径继承下来;联邦学习中,恶意参与者无法接触原始数据与训练过程,只能靠上传放大的本地梯度,让后门进入全局模型的聚合结果。两者都要求针对具体范式重新设计和优化触发器,攻击面来自模型复用与多方协作,而非单一训练集。对应的防御也需在继承与聚合环节设卡。可结合[[场景化后门]]理解。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 模型安全:后门攻击 8.7 本章小结 · 查看原书依据
8.4节和8.5节分别介绍了针对迁移学习和联邦学习的后门攻击,这些攻击策略都需要根据相应的学习范式对后门触发器进行独特的设计和优化。
参考来源
- 位置:《人工智能数据与模型安全 (姜育刚马兴军吴祖煊)》第8章《模型安全:后门攻击》(源文件:extracted/人工智能数据与模型安全 (姜育刚马兴军吴祖煊)/_epub-src/EPUB/xhtml/chapter13_0008.xhtml)
- 结论依据:当学习范式从单模型训练转向复用与协作,后门攻击也必须随之改造。迁移学习中,攻击者在教师模型里预先安插后门,再用其初始化学,原文从「8.7 本章小结」处给出对应机制与依据,支撑本卡结论。
- 原始内容:8.4节和8.5节分别介绍了针对迁移学习和联邦学习的后门攻击,这些攻击策略都需要根据相应的学习范式对后门触发器进行独特的设计和优化。