来源书籍

机器学习公式详解

Skill 版本:v24 90 张卡片

谢文睿、秦州 · 郭媛 译 · 人民邮电出版社 · 2021-03-01 · ISBN 978-7-115-55910-4

章节与卡片

00

1 张卡片
  1. 用公式推导检查理解 理解等级:中级 普通读书笔记卡

17 前 言

1 张卡片
  1. 按公式编号补足推导 理解等级:初级 普通读书笔记卡

01 第1章 绪论

1 张卡片
  1. 无免费午餐依赖均匀目标 理解等级:高级 普通读书笔记卡

02 第2章 模型评估与选择

4 张卡片
  1. ROC同分应同步入列 理解等级:中级 普通读书笔记卡
  2. AUC给同分半分 理解等级:中级 普通读书笔记卡
  3. 二项尾概率确定拒绝线 理解等级:高级 普通读书笔记卡
  4. 偏差方差分解有条件 理解等级:高级 普通读书笔记卡

18 第2章附注 二项分布参数检验

1 张卡片
  1. 复合假设的最坏边界 理解等级:高级 普通读书笔记卡

03 第3章 线性模型

5 张卡片
  1. 最小二乘可先中心化 理解等级:中级 普通读书笔记卡
  2. 矩阵梯度回传残差 理解等级:中级 普通读书笔记卡
  3. 逻辑损失来自伯努利似然 理解等级:中级 普通读书笔记卡
  4. 判别投影考虑类内散度 理解等级:中级 普通读书笔记卡
  5. 总散度分解为组内组间 理解等级:中级 普通读书笔记卡

04 第4章 决策树

4 张卡片
  1. 标签均匀时熵最大 理解等级:中级 普通读书笔记卡
  2. 分裂收益按样本数加权 理解等级:中级 普通读书笔记卡
  3. CART按二分搜索基尼 理解等级:中级 普通读书笔记卡
  4. 阈值只需考察相邻中点 理解等级:中级 普通读书笔记卡

19 第4章附注 互信息与 CART 回归树

2 张卡片
  1. 条件熵是分组后的平均熵 理解等级:中级 普通读书笔记卡
  2. 回归树叶值是组内均值 理解等级:中级 普通读书笔记卡

05 第5章 神经网络

5 张卡片
  1. 感知机按误分类更新 理解等级:中级 普通读书笔记卡
  2. 反传累积所有下游贡献 理解等级:中级 普通读书笔记卡
  3. 玻尔兹曼机能量来自边点 理解等级:中级 普通读书笔记卡
  4. 受限连接使层内条件独立 理解等级:中级 普通读书笔记卡
  5. 对比散度近似模型期望 理解等级:高级 普通读书笔记卡

20 第5章附注 数据集的线性可分

1 张卡片
  1. 线性可分取决于特征空间 理解等级:初级 普通读书笔记卡

06 第6章 支持向量机

5 张卡片
  1. SVM对偶用训练点内积 理解等级:中级 普通读书笔记卡
  2. 支持向量由互补约束选出 理解等级:中级 普通读书笔记卡
  3. 软间隔对偶的乘子有上限 理解等级:中级 普通读书笔记卡
  4. 回归容忍带外才收费 理解等级:中级 普通读书笔记卡
  5. 核判别在样本系数中求解 理解等级:高级 普通读书笔记卡

21 第6章附注 KKT 条件

1 张卡片
  1. KKT是约束最优的检查 理解等级:高级 普通读书笔记卡

07 第7章 贝叶斯分类器

5 张卡片
  1. 零一损失下选后验最大类 理解等级:中级 普通读书笔记卡
  2. 高斯极大似然协方差除以n 理解等级:中级 普通读书笔记卡
  3. 拉普拉斯修正是后验均值 理解等级:中级 普通读书笔记卡
  4. 条件独立可简化边缘求和 理解等级:中级 普通读书笔记卡
  5. 完整数据似然含隐变量 理解等级:中级 普通读书笔记卡

22 第7章附注 贝叶斯估计及离散分布先验

3 张卡片
  1. 后验可有不同点估计 理解等级:中级 普通读书笔记卡
  2. 类别分布描述一次多选一 理解等级:初级 普通读书笔记卡
  3. Dirichlet分布约束概率和 理解等级:中级 普通读书笔记卡

08 第8章 集成学习

7 张卡片
  1. 多数表决依赖错误独立 理解等级:高级 普通读书笔记卡
  2. 指数损失最优是半对数胜算 理解等级:中级 普通读书笔记卡
  3. AdaBoost票权由误差决定 理解等级:中级 普通读书笔记卡
  4. 提升重加权来自间隔 理解等级:高级 普通读书笔记卡
  5. 包外投票逐样本筛选模型 理解等级:中级 普通读书笔记卡
  6. 组合规则区分分数与标签 理解等级:中级 普通读书笔记卡
  7. 集成分歧抵消平均平方误差 理解等级:高级 普通读书笔记卡

09 第9章 聚类

3 张卡片
  1. 聚类外部指标数样本对 理解等级:中级 普通读书笔记卡
  2. 簇内平均距离按无序对数归一 理解等级:中级 普通读书笔记卡
  3. 混合模型责任度是软计数 理解等级:中级 普通读书笔记卡

10 第10章 降维与度量学习

5 张卡片
  1. 近邻上界要求局部后验接近 理解等级:高级 普通读书笔记卡
  2. 距离双中心化恢复内积 理解等级:中级 普通读书笔记卡
  3. PCA重构与方差相通 理解等级:中级 普通读书笔记卡
  4. 核主成分在Gram矩阵求解 理解等级:中级 普通读书笔记卡
  5. LLE保留局部重构关系 理解等级:高级 普通读书笔记卡

11 第11章 特征选择与稀疏学习

4 张卡片
  1. 信息增益可以评价属性子集 理解等级:中级 普通读书笔记卡
  2. L1惩罚允许精确零系数 理解等级:中级 普通读书笔记卡
  3. 近端梯度等于逐坐标软阈值 理解等级:高级 普通读书笔记卡
  4. 字典学习交替更新编码与基 理解等级:中级 普通读书笔记卡

12 第12章 计算学习理论

12 张卡片
  1. 经验误差估计总体错分率 理解等级:中级 普通读书笔记卡
  2. 凸变换抬高平均值 理解等级:中级 普通读书笔记卡
  3. 有界均值服从集中界 理解等级:中级 普通读书笔记卡
  4. 有界差控制一般统计量 理解等级:中级 普通读书笔记卡
  5. 一致学习靠并集界排除坏假设 理解等级:高级 普通读书笔记卡
  6. 统一误差界承接选模 理解等级:高级 普通读书笔记卡
  7. 增长函数只数可实现标记 理解等级:高级 普通读书笔记卡
  8. 经验最优的超额风险至多两倍偏差 理解等级:高级 普通读书笔记卡
  9. 随机符号衡量可拟合噪声 理解等级:高级 普通读书笔记卡
  10. 鬼样本把总体差变成可对称差 理解等级:高级 普通读书笔记卡
  11. 离散标记数约束随机相关 理解等级:高级 普通读书笔记卡
  12. 稳定算法限制单样本影响 理解等级:高级 普通读书笔记卡

13 第13章 半监督学习

4 张卡片
  1. 半监督混合兼用软硬归属 理解等级:中级 普通读书笔记卡
  2. 半监督SVM同时选择标签 理解等级:中级 普通读书笔记卡
  3. 图拉普拉斯惩罚邻点标签差 理解等级:中级 普通读书笔记卡
  4. 标签传播保留种子反馈 理解等级:高级 普通读书笔记卡

14 第14章 概率图模型

8 张卡片
  1. 隐马尔可夫联合按时间分解 理解等级:中级 普通读书笔记卡
  2. 团势函数经配分函数归一 理解等级:中级 普通读书笔记卡
  3. 变量消元把局部和缓存为消息 理解等级:中级 普通读书笔记卡
  4. 采样均值替代期望积分 理解等级:中级 普通读书笔记卡
  5. MH用正反流量确定接受率 理解等级:高级 普通读书笔记卡
  6. 证据分成下界与后验差距 理解等级:高级 普通读书笔记卡
  7. 均值场逐块更新近似后验 理解等级:高级 普通读书笔记卡
  8. 主题模型有两层概率向量 理解等级:中级 普通读书笔记卡

15 第15章 规则学习

3 张卡片
  1. 规则增益兼顾纯度和覆盖 理解等级:中级 普通读书笔记卡
  2. 逆归结补回消去的文字 理解等级:中级 普通读书笔记卡
  3. 规则构造复用部分前件 理解等级:中级 普通读书笔记卡

16 第16章 强化学习

5 张卡片
  1. 样本均值可递推更新 理解等级:中级 普通读书笔记卡
  2. 温度调节动作概率比 理解等级:中级 普通读书笔记卡
  3. 价值递推按首次转移拆分 理解等级:中级 普通读书笔记卡
  4. 贪心改进比较旧策略动作值 理解等级:中级 普通读书笔记卡
  5. SARSA用实际下一动作自举 理解等级:中级 普通读书笔记卡

全书概览

机器学习公式详解

执行模式:light Skill 版本:v24 建档进度:done 书籍评级:经典原理(高信息浓度、高稳定性),当前总表 P4。 AUC 的面积与排序解释、支持向量机的对偶及图模型的概率分解均以可重复推导的数学条件为核心。章节以公式解析为主。

整书笔记 · 阅读覆盖

章节进度追踪表

章节号 章节标题 状态 卡片数
00 序 done 1
17 前 言 done 1
01 第1章 绪论 done 1
02 第2章 模型评估与选择 done 4
18 第2章附注 二项分布参数检验 done 1
03 第3章 线性模型 done 5
04 第4章 决策树 done 4
19 第4章附注 互信息与 CART 回归树 done 2
05 第5章 神经网络 done 5
20 第5章附注 数据集的线性可分 done 1
06 第6章 支持向量机 done 5
21 第6章附注 KKT 条件 done 1
07 第7章 贝叶斯分类器 done 5
22 第7章附注 贝叶斯估计及离散分布先验 done 3
08 第8章 集成学习 done 7
09 第9章 聚类 done 3
10 第10章 降维与度量学习 done 5
11 第11章 特征选择与稀疏学习 done 4
12 第12章 计算学习理论 done 12
13 第13章 半监督学习 done 4
14 第14章 概率图模型 done 8
15 第15章 规则学习 done 3
16 第16章 强化学习 done 5

非正文排除

spine项 类型 排除理由
01 titlepage.xhtml 封面 仅封面图
02 text/part0000.html 目录 章节导航
03 text/part0001.html 版权 书名、ISBN 和数字版权声明
04 text/part0002.html 版权 出版与联系信息
05 text/part0003.html 内容提要 已由前言展开的定位与读者对象
08 text/part0006.html 符号索引 仅供查阅的记号约定
12 text/part0008_split_002.html 参考文献 仅书目,登记于概览
16 text/part0010_split_002.html 参考文献 仅书目,登记于概览
19 text/part0011_split_002.html 参考文献 仅书目,登记于概览
22 text/part0012_split_002.html 参考文献 仅书目,登记于概览
25 text/part0013_split_002.html 参考文献 仅书目,登记于概览
31 text/part0018_split_001.html 参考文献 仅书目,登记于概览

待关联术语

术语名 出现章节 一句话语境

引用文献

标题 类型 出现章节 一句话语境
机器学习(周志华) 书 序、前言及第1–16章 公式编号与原模型定义的基准
概率论与数理统计(陈希孺) 书 第2、7章 二项检验与贝叶斯估计
统计学习方法(李航) 书 第4、5章 互信息、CART 与线性可分
凸优化(王书宁) 书 第6章 对偶与 KKT 的数学背景
[1] 王书宁. 凸优化[M].北京:清华大学出版社, 2013. 书 第6章 原书参考文献
[2] 王燕军. 最优化基础理论与方法[M]. 上海:复旦大学出版社, 2011. 书 第6章 原书参考文献
[1] VLADIMIR V N, CHERVONENKIS A Y. On the Uniform Convergence of Relative Frequencies of Events to Their Probabilities[M]//Measures of Complexity. Berlin : Sprin ger,2015:11-30. 论文 第12章 原书参考文献
[2] MOHRI M, ROSTAMIZADEH A, TALWALKAR A. Foundations of Machin e Learning[M]. Cambridge, M.A.: MIT Press, 2018. 论文 第12章 原书参考文献

资金安全问题案例

问题标题 问题卡 解决方案卡(如有) 出现章节 一句话说明

实践卡进度

序号 实践标题 实践方式 状态 关联章节 产出
001 核对并列分数的AUC 证据验证 done 第2章 实验计划
002 用软阈值查近端更新 证据验证 done 第11章 实验计划

实践候选筛选:done

重复的阈值扫描和排序验证合并为一个实验。通用训练基准与完整算法重写的范围超过验证单条公式所需,未采用。 轻量模式未执行生成后笔记复核、独立审查及按审查结果优化。

相关主题

从本书的主题进入跨书阅读,对照其他书籍的讲解。下方数量包含主题关联的全部卡片与书籍。

暂无公开主题。