来源书籍
人工智能数据与模型安全 (姜育刚马兴军吴祖煊)
章节与卡片
02 机器学习基础
4 张卡片
03 人工智能安全基础
4 张卡片
04 数据安全:攻击
5 张卡片
05 数据安全:防御
5 张卡片
06 模型安全:对抗攻击
4 张卡片
07 模型安全:对抗防御
6 张卡片
08 模型安全:后门攻击
5 张卡片
09 模型安全:后门防御
4 张卡片
10 模型安全:窃取攻防
4 张卡片
全书概览
人工智能数据与模型安全 (姜育刚马兴军吴祖煊)
执行模式:light
建档进度:done
首次建档 Skill 版本:v24(本次完整重建于 2026-11-17)
整体评级
四象限结论:经典原理(高信息浓度 + 高稳定性)
本书围绕人工智能内生安全展开,核心不是产品操作或工具教程,而是数据与模型在训练、部署、调用中的结构性风险:数据投毒、隐私推理、数据窃取、篡改伪造、对抗攻击、后门攻击、模型窃取,以及与之对应的鲁棒训练、差分隐私、联邦学习、对抗训练、输入空间防御、可认证防御、后门检测与移除、模型溯源等方法。第 3 章先建立攻击者、受害者、防御者、白盒/黑盒/灰盒威胁模型和攻击时机等分析框架;第 4-10 章再分别展开具体攻防机制,解释为什么机器学习流程中的 IID 假设、模型记忆、梯度暴露、决策边界、迁移学习和 API 查询会变成攻击面。
稳定性方面,书中不少具体算法来自 2013-2022 年间的研究,未来会被更强方法替代,但”安全问题来自数据、模型和学习流程本身的假设与接口暴露”这一推理路径稳定性很高。差分隐私的噪声-效用权衡、联邦学习的数据不出域与梯度泄露矛盾、对抗样本的局部鲁棒性要求、后门攻击的训练时植入与推理时触发、模型窃取的查询-模仿机制,都是可迁移到后续大模型和多模态系统中的底层框架。
整书笔记
阅读正文、章节讲解、全书主线、跨章综合与全部卡片/原文定位见 _book_note.md。覆盖与候选取舍见 _coverage.md。
章节进度追踪
| 章节号 | 章节标题 | 状态(pending/done) | 卡片数 |
|---|---|---|---|
| 01 | 人工智能与安全概述 | done | 2 |
| 02 | 机器学习基础 | done | 4 |
| 03 | 人工智能安全基础 | done | 4 |
| 04 | 数据安全:攻击 | done | 5 |
| 05 | 数据安全:防御 | done | 5 |
| 06 | 模型安全:对抗攻击 | done | 4 |
| 07 | 模型安全:对抗防御 | done | 6 |
| 08 | 模型安全:后门攻击 | done | 5 |
| 09 | 模型安全:后门防御 | done | 4 |
| 10 | 模型安全:窃取攻防 | done | 4 |
| 11 | 未来展望 | done | 3 |
非正文排除
| spine 项 | 类型 | 排除理由 |
|---|---|---|
| cover.xhtml | 封面 | 仅图,无实质正文 |
| Copyright.xhtml | 版权页 | 出版信息,非正文讲解 |
| chapter3(FOREWORD 序) | 序 | 他人序言,非作者正文论证 |
| chapter4(PREFACE 前言) | 前言 | 背景介绍,不入正文计划 |
| chapter5 及各 chapterN 空壳项 | 目录/分节页 | 纯目录或分节导航,无实质正文 |
出版信息已并入 _book_note.md front matter。
待关联术语
| 术语名 | 出现章节 | 一句话语境 |
|---|---|---|
| (无纯提名术语,均在卡片中实质展开) | — | — |
引用文献
| 标题 | 类型 | 出现章节 | 一句话语境 |
|---|---|---|---|
| (本书以机制讲解为主,未在正文引用需单独登记的外部文献) | — | — | — |
实践卡进度
| 序号 | 实践标题 | 实践方式 | 状态(pending/done) | 关联章节 | 产出 |
|---|---|---|---|---|---|
| 001 | 差分隐私参数观察 | 实现深读 | done | 05 | ideas/idea-001-差分隐私参数观察.md |
| 002 | 对抗防御方案横向比较 | 横向学习 | done | 07 | ideas/idea-002-对抗防御方案横向比较.md |
| 003 | 后门检测与移除案例观察 | 证据验证 | done | 08、09 | ideas/idea-003-后门检测与移除案例观察.md |
实践候选筛选:done
筛选说明:从数据侧防御、模型侧对抗防御与后门攻防三类核心技术中选取可立即启动、产出可检查的实践;相近候选已合并为 3 张,均为技术理解类计划(实现深读/横向学习/证据验证),未采用”自行完整实现攻击系统”(高风险且非必要)与”纯读后感式发散”(无可检查产出)。计划交付不等于实践已执行。
相关主题
从本书的主题进入跨书阅读,对照其他书籍的讲解。下方数量包含主题关联的全部卡片与书籍。
暂无公开主题。