来源书籍

人工智能数据与模型安全 (姜育刚马兴军吴祖煊)

Skill 版本:v24 经典原理**(高信息浓度 + 高稳定性) 46 张卡片

姜育刚;马兴军;吴祖煊 · 机械工业出版社 · 2023年8月 · ISBN 9787111735021

章节与卡片

01 人工智能与安全概述

2 张卡片
  1. 内生安全边界 理解等级:中级 普通读书笔记卡
  2. 数据模型两面 理解等级:中级 普通读书笔记卡

02 机器学习基础

4 张卡片
  1. IID假设脆弱性 理解等级:高级 普通读书笔记卡
  2. 训练流程攻击面 理解等级:中级 普通读书笔记卡
  3. 损失函数即偏好 理解等级:中级 普通读书笔记卡
  4. 验证集的盲区 理解等级:高级 普通读书笔记卡

03 人工智能安全基础

4 张卡片
  1. 攻防主体分离 理解等级:初级 普通读书笔记卡
  2. 威胁模型先行 理解等级:中级 普通读书笔记卡
  3. 攻击三维分类 理解等级:中级 普通读书笔记卡
  4. 防御三策略 理解等级:中级 普通读书笔记卡

04 数据安全:攻击

5 张卡片
  1. 数据投毒机制 理解等级:中级 普通读书笔记卡
  2. 成员推理风险 理解等级:中级 普通读书笔记卡
  3. 属性推理风险 理解等级:中级 普通读书笔记卡
  4. 数据窃取升级 理解等级:高级 普通读书笔记卡
  5. 深伪是滥用攻击 理解等级:高级 普通读书笔记卡

05 数据安全:防御

5 张卡片
  1. 鲁棒训练取舍 理解等级:高级 普通读书笔记卡
  2. 隐私预算含义 理解等级:中级 普通读书笔记卡
  3. 联邦学习矛盾 理解等级:高级 普通读书笔记卡
  4. 鲁棒聚合核心 理解等级:中级 普通读书笔记卡
  5. 伪造检测看痕迹 理解等级:高级 普通读书笔记卡

06 模型安全:对抗攻击

4 张卡片
  1. 对抗样本本质 理解等级:初级 普通读书笔记卡
  2. 白盒梯度优势 理解等级:中级 普通读书笔记卡
  3. 黑盒攻击两路 理解等级:高级 普通读书笔记卡
  4. 物理攻击约束 理解等级:高级 普通读书笔记卡

07 模型安全:对抗防御

6 张卡片
  1. 成因假说并存 理解等级:高级 普通读书笔记卡
  2. 检测防御局限 理解等级:高级 普通读书笔记卡
  3. 对抗训练闭环 理解等级:中级 普通读书笔记卡
  4. TRADES权衡 理解等级:高级 普通读书笔记卡
  5. 输入防御轻量 理解等级:中级 普通读书笔记卡
  6. 认证防御边界 理解等级:高级 普通读书笔记卡

08 模型安全:后门攻击

5 张卡片
  1. 后门攻击机制 理解等级:中级 普通读书笔记卡
  2. BadNets警示 理解等级:中级 普通读书笔记卡
  3. 触发器隐蔽性 理解等级:高级 普通读书笔记卡
  4. 范式适配后门 理解等级:中级 普通读书笔记卡
  5. 场景化后门 理解等级:中级 普通读书笔记卡

09 模型安全:后门防御

4 张卡片
  1. 神经净化思路 理解等级:中级 普通读书笔记卡
  2. 样本异常检测 理解等级:中级 普通读书笔记卡
  3. 后门移除路径 理解等级:中级 普通读书笔记卡
  4. 剪枝防御优势 理解等级:高级 普通读书笔记卡

10 模型安全:窃取攻防

4 张卡片
  1. 模型窃取的三重目标 理解等级:初级 普通读书笔记卡
  2. 三类窃取路径 理解等级:中级 普通读书笔记卡
  3. 信息模糊代价 理解等级:高级 普通读书笔记卡
  4. 水印与溯源 理解等级:高级 普通读书笔记卡

11 未来展望

3 张卡片
  1. 攻击走向现实 理解等级:中级 普通读书笔记卡
  2. 防御走向组合 理解等级:中级 普通读书笔记卡
  3. 推理阶段防御 理解等级:中级 普通读书笔记卡

全书概览

人工智能数据与模型安全 (姜育刚马兴军吴祖煊)

执行模式:light

建档进度:done

首次建档 Skill 版本:v24(本次完整重建于 2026-11-17)

整体评级

四象限结论:经典原理(高信息浓度 + 高稳定性)

本书围绕人工智能内生安全展开,核心不是产品操作或工具教程,而是数据与模型在训练、部署、调用中的结构性风险:数据投毒、隐私推理、数据窃取、篡改伪造、对抗攻击、后门攻击、模型窃取,以及与之对应的鲁棒训练、差分隐私、联邦学习、对抗训练、输入空间防御、可认证防御、后门检测与移除、模型溯源等方法。第 3 章先建立攻击者、受害者、防御者、白盒/黑盒/灰盒威胁模型和攻击时机等分析框架;第 4-10 章再分别展开具体攻防机制,解释为什么机器学习流程中的 IID 假设、模型记忆、梯度暴露、决策边界、迁移学习和 API 查询会变成攻击面。

稳定性方面,书中不少具体算法来自 2013-2022 年间的研究,未来会被更强方法替代,但”安全问题来自数据、模型和学习流程本身的假设与接口暴露”这一推理路径稳定性很高。差分隐私的噪声-效用权衡、联邦学习的数据不出域与梯度泄露矛盾、对抗样本的局部鲁棒性要求、后门攻击的训练时植入与推理时触发、模型窃取的查询-模仿机制,都是可迁移到后续大模型和多模态系统中的底层框架。

整书笔记

阅读正文、章节讲解、全书主线、跨章综合与全部卡片/原文定位见 _book_note.md。覆盖与候选取舍见 _coverage.md。

章节进度追踪

章节号 章节标题 状态(pending/done) 卡片数
01 人工智能与安全概述 done 2
02 机器学习基础 done 4
03 人工智能安全基础 done 4
04 数据安全:攻击 done 5
05 数据安全:防御 done 5
06 模型安全:对抗攻击 done 4
07 模型安全:对抗防御 done 6
08 模型安全:后门攻击 done 5
09 模型安全:后门防御 done 4
10 模型安全:窃取攻防 done 4
11 未来展望 done 3

非正文排除

spine 项 类型 排除理由
cover.xhtml 封面 仅图,无实质正文
Copyright.xhtml 版权页 出版信息,非正文讲解
chapter3(FOREWORD 序) 序 他人序言,非作者正文论证
chapter4(PREFACE 前言) 前言 背景介绍,不入正文计划
chapter5 及各 chapterN 空壳项 目录/分节页 纯目录或分节导航,无实质正文

出版信息已并入 _book_note.md front matter。

待关联术语

术语名 出现章节 一句话语境
(无纯提名术语,均在卡片中实质展开) — —

引用文献

标题 类型 出现章节 一句话语境
(本书以机制讲解为主,未在正文引用需单独登记的外部文献) — — —

实践卡进度

序号 实践标题 实践方式 状态(pending/done) 关联章节 产出
001 差分隐私参数观察 实现深读 done 05 ideas/idea-001-差分隐私参数观察.md
002 对抗防御方案横向比较 横向学习 done 07 ideas/idea-002-对抗防御方案横向比较.md
003 后门检测与移除案例观察 证据验证 done 08、09 ideas/idea-003-后门检测与移除案例观察.md

实践候选筛选:done

筛选说明:从数据侧防御、模型侧对抗防御与后门攻防三类核心技术中选取可立即启动、产出可检查的实践;相近候选已合并为 3 张,均为技术理解类计划(实现深读/横向学习/证据验证),未采用”自行完整实现攻击系统”(高风险且非必要)与”纯读后感式发散”(无可检查产出)。计划交付不等于实践已执行。

相关主题

从本书的主题进入跨书阅读,对照其他书籍的讲解。下方数量包含主题关联的全部卡片与书籍。

暂无公开主题。