此笔记位置已失效,请从目录继续阅读。
全书导读
这本书用五篇内容连接机器学习的数学、算法、应用和实现平台。前言回顾 AI 研究几次兴衰,把读者的关注点引向技术能解决的实际问题。
全书主线
先建立数学和评价基础,再进入经典学习算法、深度模型与强化学习。后两篇将这些方法放进数据集建设、视觉与语言应用、软件工程和分布式计算。第17–23章把数据建设、训练和模型验证连接到视觉、文本、测试、修复与博弈;第24–31章转向计算、通信、工具与专题补充。
前言
作者先把机器学习放回人工智能研究的历史。早期研究者希望让机器完成被视为需要智能的活动,例如通过文字对话来检验机器能否表现得像人。后来,受限于可用方法、计算资源与项目落地能力,研究热度曾几度大起大落。专家系统靠人工整理的专业知识与规则得出判断,帮助 AI 一度商业化。书中接着把深度学习的复兴与长期积累的方法、更强的计算能力和更丰富的数据联系起来。
前言把历史叙述引向一个实践问题。判断 AI 能解决什么,要落到具体任务上,就要说明模型接收什么信息、输出怎样的结果,以及怎样衡量它。第 1 章延续历史与流派介绍,第 2、3 章分别补上数学和度量基础。
第1篇 机器学习基础知识篇
第1章 人工智能概述
本章从不同的智能定义和图灵测试开始,把抽象的“会思考”转为可观察的任务。早期研究通过玩棋和微型环境隔离搜索与规划等能力。商业落地则要面对环境变化、覆盖范围与维护成本。历史上的两次低谷在书中被用来说明这些条件。 AI以可执行能力描述智能、图灵测试比较可观察行为、博弈提供可重复实验环境、积木世界隔离规划机制、Lisp承载早期符号程序、AI兴衰受制于应用兑现。
符号系统将知识写为事实与规则,专家系统再用推理机使用这些知识。Cyc 说明硬编码常识会暴露例外和关系边界。另一条研究路径让系统直接和环境交互。连接主义用简单神经元建立可训练的表示,单层模型的线性局限可借组合多层处理。概率方法则在证据有限时保留不确定性。 专家系统分开知识和推理、Cyc常识规则需要例外边界、具身智能强调行动与环境、AI流派表达知识的方式不同、启发式搜索优先尝试有望路径、阈值神经元表达线性边界。
机器学习从任务、经验和性能三个方面定义一个实验。图像基准提供共享验证条件,表示学习让模型学出原先手工建立的特征。强化学习中的经验来自行动后的反馈,马尔可夫决策过程用状态和动作描述这种反馈如何影响后续收益。算法好坏取决于它对目标任务和数据分布的假设。 图像基准让方案横向比较、MDP用状态建模长远决策、强化学习通过交互获得反馈、学习定义绑定任务经验度量、表示学习自动构建输入特征、算法优越取决于任务分布、先按任务缩小算法候选。
应用任务首先要说清输出。整图分类与逐像素标注的工作量不同,文本分类与聚类需要的训练信号也不同。制造维护例子再把类型区别用于故障窗口预测和剩余寿命估计。软件测试一节提出探索动作和判断错误两个不同难题。后面各章将在评价、模型和应用三个层面接着展开。 视觉任务由输出粒度区分、词级处理从切分到向量、文本输出可按粒度选择、Text2vec提供文本分析接口、预测维护从历史估算故障、维护建模要分开清洗与选型、探索测试仍需要错误判据。
原书依据 · 27 处
- 人工智能概述 · 查看原书依据
- 人工智能概述 · 查看原书依据
- 人工智能概述 · 查看原书依据
- 人工智能概述 · 查看原书依据
- 人工智能概述 · 查看原书依据
- 人工智能概述 · 查看原书依据
- 人工智能概述 · 查看原书依据
- 人工智能概述 · 查看原书依据
- 人工智能概述 · 查看原书依据
- 人工智能概述 · 查看原书依据
- 人工智能概述 · 查看原书依据
- 人工智能概述 · 查看原书依据
- 人工智能概述 · 查看原书依据
- 人工智能概述 · 查看原书依据
- 人工智能概述 · 查看原书依据
- 人工智能概述 · 查看原书依据
- 人工智能概述 · 查看原书依据
- 人工智能概述 · 查看原书依据
- 人工智能概述 · 查看原书依据
- 人工智能概述 · 查看原书依据
- CV和视觉识别经典模型 · 查看原书依据
- 人工智能概述 · 查看原书依据
- 人工智能概述 · 查看原书依据
- 人工智能概述 · 查看原书依据
- 人工智能概述 · 查看原书依据
- 人工智能概述 · 查看原书依据
- 人工智能概述 · 查看原书依据
第2章 机器学习中的数学基础
微分部分把导数应用到模型参数。链式法则用于计算一层怎样经中间结果影响下一层,梯度将各参数偏导组织起来。下降法沿局部减损失方向逐步移动,样本使用范围则控制估计成本与波动。 链式求导沿复合关系相乘、对数导数是相对变化率、负梯度给出局部下降方向、梯度批大小决定估计代价。
第2章公式图中,正态密度的归一化常数应为 1/(σ√(2π)),单位向量证明应使用平方范数 ||v||²/||v||² = 1,K 折的等权误差求和上限是折数 K。P76 的旋转例按列向量与常规直角坐标读为顺时针 θ。
线性代数把输入组织成可计算的向量和矩阵。单位向量保留方向,点积可计算沿某方向的分量。矩阵变换的特征向量给出保持轴线的方向,后文 PCA 用其选投影坐标。仿射允许在一次线性变换外增加平移。 单位向量保留方向、点积同时编码尺度与夹角、拼接须核对已有轴和新轴、数组切分要区分段数与切点、特征向量保留轴线方向、仿射变换组合线性与平移。
概率部分先把实验结果变成随机变量,区分概率质量与密度。概率模型给定参数时描述数据,似然根据已经观测的数据比较参数。贝叶斯再用先验和似然得到后验,因此低发生率事件即使检测准确,也可能有较高比例的假阳性。统计部分用缩放、方差和协方差描述数据的尺度及共同变化。 随机变量把结果映成数值、概率质量与密度口径不同、似然固定数据比较参数、最大似然寻找最能解释观测的参数、稀有先验会拉低检出可信度、缩放只用训练集统计量、标准差描述离均值的尺度、偏差与方差来自重复拟合、协方差衡量共同变化。
最优化先明确哪些解可行。拉格朗日乘子表达约束与目标的关系,对偶可以提供目标下界,KKT 会把约束在最优点是否活跃纳入方程。SVM 一章会把这些工具用到最大间隔问题。 约束定义优化的可行域、等高线显示目标值不变方向、等式约束可纳入驻点方程、对偶问题给最小化下界、严格可行可保证凸强对偶、KKT区分活跃与松弛约束。
最后一节连到模型实验和后续算法。训练、验证、测试承担不同角色,误差对照帮助识别拟合问题。信息熵进入决策树,交并比和非极大值抑制进入视觉检测,Huffman 树用于解释高频符号为何值得用较短路径。 验证和测试承担不同职责、交叉验证轮流留出一折、成对看训练和验证误差、简约是在解释能力相近时优先、信息熵平均衡量意外程度、交并比度量预测框重叠、非极大值抑制删除重复框、Huffman缩短高频符号码长。
原书依据 · 35 处
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- CNN训练技巧 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
- CV和视觉识别经典模型 · 查看原书依据
- 机器学习中的数学基础 · 查看原书依据
第3章 机器学习模型的度量指标
模型常先给样本一个分数,再由阈值决定是否判为正类。判正且确实为正记为 TP,错把负例判成正例记为 FP,漏掉的正例记为 FN,正确判负记为 TN。准确率统计全体中判对的比例,精确率统计预测正例中的命中比例,召回率统计真实正例中的覆盖比例。稀有事件总是判负也可能有很高的准确率,必须结合实际错误看分数。分类指标取决于分母。
阈值改变后,精确率与召回率往往一起变动。放宽阈值可以纳入更多真实正例,也可能引入误报。PR 曲线用召回率作横轴、精确率作纵轴,AP 汇总同一类的表现,mAP 再对类别或查询求均值。F 分数处理某个固定阈值上的两项结果,F1 用两者的调和平均,F2 增加召回率的权重。原书 F1 公式图片有排印错误,正确分母是精确率与召回率之和。平均精确率汇总排序质量、F分数合并查准与查全。
多类问题还要看错误流向。书中的文本分类器把真实分类排在行,预测分类排在列,所以一行的非对角元素会显示某类文章分别流入哪些类别。一个总体分数容易把这种错误模式平均掉。混淆矩阵暴露错分去向。
ROC 同样扫过分数阈值,比较不同阈值的真正例率与假正例率。ROC-AUC 是曲线下面积,可以用正负配对中谁得分更高理解。即使 AUC 为 1,阈值依然必须选在能隔开正负样本分数的位置。类别自身的分数分布固定而正负比例改变时,ROC 可近似不变,但精确率会变。要估计低发生率事件中的误报负担,PR 曲线能补充 ROC。ROC比较阈值下的误报、AUC度量正负样本排序、稀有正例要结合PR曲线。
项目还应根据输出和场景选择指标。语音识别可测把预测文本改成参考文本的词级编辑代价。语音合成除了听感,还应关注目标设备上的速度、内存与功耗。产品使用和推荐意愿给出另一层反馈,需要结合业务环境理解。词错误率计入三种编辑、产品评估要覆盖运行代价。
第2篇 经典机器学习篇
第4章 回归算法
回归分析通过样本估计输入与所关心输出的关系。线性回归把各项特征加权求和来预测连续目标,截距负责整体平移,观测与预测之间的残差用于训练和评估。常用损失有平均绝对误差、均方误差与均方根误差,差别在大误差如何被放大,以及单位是否与原目标相同。书中的单特征例子把若干样本留出,画散点和预测直线来显示误差。 回归分析估计变量关系、线性回归拟合条件均值、回归误差的量纲与惩罚、单特征回归可画留出预测。
逻辑回归把同样的线性评分送进 sigmoid,变成二分类的概率估计。阈值把概率变成最终标签,第 3 章的准确率和召回率就在这一步后计算。训练本身则使用二元对数损失,将更大的惩罚分给对错误类别很自信的预测。 逻辑回归将分数映成概率、对数损失惩罚自信错判。
一种多分类方案是将类别拆成若干二元问题,另一种是让 Softmax 同时归一化所有类别分数。后者取真实类别所得概率的负对数作为损失,使训练直接作用于一个类别分布。这一构件也常被后续的深度网络用作分类输出层。 多分类可拆成二分类任务、Softmax归一化类别得分。
第5章 K-NN算法
K-NN 用与当前输入最相似的若干个已知样本做决策。已知样本的目标是标签时可以投票,目标是数值时可取平均。书中有四个三室房源的租金均值例子。和上一章用训练样本拟合一组系数的办法相比,近邻方法把大量工作保留到查询时完成。 近邻分类用标签投票、惰性学习把计算留到推理、近邻回归均值来自局部。
方法能否奏效取决于怎样定义“近”,要听取多少邻居,以及各邻居的证据权重。k 改变平滑程度,距离类型和特征尺度改变邻居是谁,加权规则改变邻居之间谁的话更重要。样本不均衡和高维度量退化都可能让局部多数票误导决策。 邻居数改变局部平滑、近邻距离定义何为相似、距离加权增强近处证据、高维与样本失衡改变近邻。
工程示例将鸢尾花特征限制到二维,固定邻居数,然后在一张规则网格上比较等权与距离加权的预测区域。下一章的 k-means 也依赖距离,不过邻近的对象变成反复更新的簇中心,任务则是从无标签样本中形成分组。 用预测网格比较近邻边界。
第6章 k-means
k-means 将没有预先标签的样本分到 k 个组中。它先用当前中心决定组别,再用各组的均值更新中心。一次分配只改变归属,重新取均值才更新用于下一轮的代表点。这样逐步降低组内平方距离。 交替更新簇归属和中心。
均值中心使方法偏好能用欧氏距离和紧凑中心概括的簇。分组好坏还随初始中心和簇数变化。工程示例在相同的鸢尾花散点上画出三个配置,帮助定位预先指定的簇数和初始化带来的影响。 均值中心限制聚类形状、初始化左右局部聚类结果、聚类图对照簇数和初值。
第7章 朴素贝叶斯
贝叶斯分类将各类原有频率和“这一类里面看到当前特征有多常见”放到一起计算。若多个属性的完整组合没在训练表中出现,朴素贝叶斯可在给定类别的条件下拆分联合似然。天气和湿度往往一起变化,因此实际分类仍要检查相关特征是否会重复计数。 贝叶斯更新先验类别信念、条件独立化简联合似然。
邮件案例把识别信号从发件人名单扩展到内容,再区分原文与预计算的统计特征。阈值把分数变成拦截动作。通过第 3 章的混淆计数,可以把正常邮件被误拦的代价纳入设定过程。 邮件分类需要稳定特征、过滤阈值应考虑误杀成本。
第8章 决策树和随机森林
决策树把有标签样本拆成多个分支。给定新样本,从根逐个判断特征并沿分支走到叶子。ID3 优先降低切分后的标签熵,天气示例因此先分晴天、多云、下雨。选择分裂规则只解决当前怎样分,预剪枝和后剪枝则处理树长到什么程度可以推广。 树沿特征条件递归判断、ID3优先降低标签熵、树算法可换分裂度量、剪枝用泛化替代完全拟合。
随机森林通过重复抽样训练多棵树,同时在分裂时随机限制候选特征,降低这些树总做出相似决策的可能。分类汇总票,回归汇总数值。这把单树的结构与集成学习连起来,第 11 章进一步比较并行训练、串行纠错和训练二层组合模型。 自助抽样产生不同训练集、随机森林降低树间相关性。
第9章 支持向量机
支持向量机从几何上选择能分开样本、并尽量远离最接近样本的边界。分界面由法向量与偏置描述。几何间隔把有符号的分类距离归一到真实尺度。感知机也是线性分类器,利用错分修正去寻找任一可分边界,最大间隔进一步用距离筛选。 支持向量方法可分类和回归、最宽间隔由最近样本决定、法向量定边界和距离、几何间隔兼顾方向和尺度、感知机按错分方向更新、口袋保存最好的已见边界。
把最近样本的函数间隔归一为 1 后,目标转成最小化权重平方范数。拉格朗日乘子与 KKT 条件揭示多数远处点不必参与最终判定。真实数据存在噪声或不可分结构时,软间隔用代价允许违反边缘约束,核则把原空间的非线性结构映到内积可处理的关系。 最大间隔等价最小权重范数、硬间隔对偶只依赖样本内积、软间隔为违约设置代价、核替代映射后的内积、核选择决定边界形态。
归一化后应约束 yᵢ(wᵀxᵢ + b) ≥ 1,偏置在类别标签乘号内。最大化 1/||w|| 与最小化 ||w||²/2 等价。几何间隔的分子应由标签 yᵢ 乘整个决策值;原书 P176、P189–191 的相邻公式图有排印差异,笔记以此统一。若平方松弛代价写为 C Σ ξᵢ²,消去 ξ 后的对偶惩罚项是 −Σ αᵢ²/(4C)。
多类别需要定义多个二类输出如何合并,也可以训练联合目标。读库接口时,要区分模型实际如何训练和它怎样报告决策分数。 一对其余需要可比较得分、两两分类可沿图逐步淘汰、决策函数形状不等于训练法。
第10章 PCA降维
降维的目的可以是减少存储、移除冗余或把高维数据画到二维。特征选择保留原列,特征提取重新建立坐标。PCA 属于后者。它先置数据均值于原点,再沿最能保留数据变化的方向投影。 降维有选择与提取两条路、PCA最小化正交重建误差、主成分保留最大投影方差。
计算时分解协方差矩阵。特征值衡量沿对应方向的方差,排序后留下的特征向量决定新坐标。例子把含两个变量的十个样本投到一个方向。第 5 章讲过高维距离可能变得难以区分,PCA 可以成为近邻模型前的候选数据变换,效果要用留出数据核对。 PCA用协方差特征向量投影、二维点可投影到一条主轴。
第11章 集成学习
集成学习要解决两个问题。先让已有一定预测能力的模型产生有差异的错误,再选办法汇总它们。第 8 章的随机森林使用重采样和随机候选特征来增加差异,独立拟合的模型最后才汇合。提升法让前一轮的错误影响下一轮的训练内容。 模型错误互补才有集成收益、提升法让后轮纠正前轮。
堆叠把基模型输出当作新的输入,训练第二层模型。它使用折外预测构造训练特征,使二层不会把基模型已见过样本时的表现当成其预测能力。固定平均和投票无需再学一层,是否加权、是否允许拒绝都对应不同任务的使用条件。 堆叠用折外预测训练二层、加权平均要随验证证据、投票决定何时判类或拒绝、组合器也可以由数据训练。
第3篇 深度学习进阶篇
第12章 深度神经网络
深度网络把人工神经元分层组合。每层先对输入做加权变换,再用激活压缩或筛选信号。激活使多层可以表达非线性,同时决定梯度如何通过。Sigmoid 和 tanh 在大输入处饱和,ReLU 在正区保留梯度,负区变体给该支路保留斜率。 激活函数改变表达与梯度、Sigmoid与tanh都会饱和、ReLU正域传梯度负域截断、负区斜率缓解ReLU死区。
前向得到预测,损失量化结果与训练目标的差别。反向传播用链式法则把差距的导数传给层内参数,优化器再更新参数。书中通过两层小网络将矩阵计算的数字对到一次训练更新。 前向传播逐层计算输出、反向传播按依赖分配梯度、损失度量训练上何为好。
损失也承担任务建模。合页看分数间隔,交叉熵看模型给真实类别多少概率。多属性可独立二分类。回归可考虑 Huber 对小误差与大误差采用不同增长方式。参数惩罚或训练中的随机遮蔽用来缓和过拟合。 合页损失检查分数间隔、正则抑制权重或共适应、交叉熵惩罚真类低概率、Huber兼顾平滑和离群点、多属性标签可分别二分类。
第13章 卷积神经网络
卷积对图像某个小窗口进行计算,并把同一核拿到其他位置使用。填充和步幅决定输出空间尺度,核个数决定输出通道。池化缩小空间尺寸,全连接或其他分类头将特征转成预测分数。 卷积共享权重扫描局部、步长与填充决定卷积尺寸、池化在每个通道内聚合、全连接整合特征但参数多。
本章用几代结构说明资源约束怎样改变网络设计。LeNet 展示卷积和下采样的基本组合,AlexNet 把训练手段与硬件划分一起考虑,VGG 用小核堆叠覆盖较大区域,Inception 用多个分支加逐点压缩控制计算,ResNet 给深层加恒等捷径。比较这些模型时,同一个准确率无法说明内存与延迟。 LeNet交替提取与下采样、AlexNet组合训练与硬件改进、堆叠小核扩大感受野、逐点卷积压缩跨通道成本、残差块让恒等映射可直接表达、视觉模型需要多维比较。
原书用同一物体的多种变换检查鲁棒性。卷积权重共享带来跨位置的检测能力,尺度、旋转和换视角则要看结构、增强与评测条件。视觉应用篇会继续讨论定位与检测,届时保留空间信息尤其重要。 平移等变与判别不变有别、尺度变化需要多尺寸证据、增强需要覆盖目标变换。
第14章 RNN与LSTM
序列输入的当前解释往往需要历史。循环神经网络将隐藏状态逐步传递,使一串字词、音频或视频可以按顺序处理。任务的输出可以是一个类别,也可以是一串等长或不等长的结果。长距离线索要经许多次递推,基本循环网络的训练难以一直保留它。 循环网络把状态传给后步、序列模型按输入输出长度选择、长程梯度是递推训练难点。
LSTM 为此保留单元状态和隐藏状态。遗忘门调节旧记忆,输入门调节新内容,输出门选择当前暴露的信息。这几项操作一起决定记忆跨多少步留存。GRU 把两条状态合成一条,换用更新和重置两个门。 两条状态通路分工、遗忘门逐坐标衰减记忆、输入门控制新记忆的写入、输出门选择当前可见状态、GRU用同一状态读写记忆。
第15章 深度强化学习
深度强化学习先把任务写成可能反复变化的状态、动作和奖励。策略决定怎样行动,价值测长期收益,模型预测后继状态和奖励。有模型时可以推演各动作。没有模型时要从实际行动中抽取学习信号。 策略为状态分配动作概率、状态价值是动作价值的加权、规划利用已知或学习的模型、策略迭代交替评估和改进。
蒙特卡罗等完整回合再计算真实回报。时间差分每步就用奖励和后继估计更新。SARSA 使用实际继续的动作,Q-learning 用下一状态最优估计。DQN 把空间过大的查表换为卷积网络,再用经验回放和目标网络稳定训练。原书把 AlphaGo 归作使用 DQN 的说法与第 23 章的策略网络、价值网络和树搜索结构不符。 蒙特卡罗价值取完整回报均值、异策略估计需要覆盖目标动作、时差用后继估值立即更新、SARSA与Q学习选择不同目标、DQN一次输出各动作价值、回放与目标网络各稳一端。
策略梯度直接调整动作分布,从完整片段等数据估计每个动作会怎样影响回报。有限差分不需要策略可微,但重估昂贵。REINFORCE 用对数策略的梯度和观察到的回报更新,展示如何在缺少动作标签时学习。 策略优化直接提高预期回报、有限差分靠扰动估计梯度、REINFORCE按回报更新对数策略。
第16章 MCTS
普通蒙特卡罗用重复随机实验估计一个量。树搜索把这个思想用到需要作出动作的状态树中。搜索每轮选择已有路径,扩展新动作,模拟或估计结果,再把结果回填给路径上的各节点。 蒙特卡罗用频率估计面积、树搜索一轮包括四阶段。
预算有限时,当前均值最高的动作可能只是试得多。UCT 让已有好表现和少试分支的探索奖励一起决定优先级。书中的计数例还说明了回传时必须明确胜负是对哪个玩家而言。这个框架将在 AlphaGo 中由策略网络与估值网络补充。 UCT给少试的动作探索奖励、搜索回传要统一玩家视角。
第4篇 机器学习应用实践及相关原理
第17章 数据集的建设
训练数据建设先明确规模、代表性和标签质量。外包与自建各有适用约束。按类别分工和按图片分工会形成不同的合并工作。采集规格需要将模态、目标数量和可能部署场景写得足够清楚。 数据量质量覆盖要一起看、标注协作可按类别或图片分工、矩形标注同时保存类和坐标、同分布与总体覆盖需分开查、平均图只代理视觉多样性、采集规格要写到来源和切片。
数据来源也可以来自业务过程中已有的标记,或对已有样本作符合任务的变换。两种途径都可能引入偏差。混淆矩阵从预测错误定位问题,聚类可提前筛查离群和相似记录。发现后应回看实际样本,修订标签边界或补充覆盖,再按清洗规则保留处理记录。 业务行为可产生弱标签、数据增强需保证标签仍有效、误分与离群都需回到样本、标签粒度需要可判定的定义、数据均衡要按部署目标检验、清洗从可查数据规则出发。
第18章 CNN训练技巧
先划分数据再估计预处理统计量,保证训练与部署使用同一变换。增强操作还应维护目标语义。核对输入尺寸、卷积步长与填充、池化输出,再选择激活和匹配的初始化。 缩放只用训练集统计量、数据增强需保证标签仍有效、随机初始化既要破除对称又要控制方差。
正则化和 Dropout约束模型拟合,BN也改变优化过程和运行状态。BN的训练批次统计与推理统计需要分别验证;它的泛化效果与批次、任务及配置有关。 批归一化在训练和推理阶段使用不同统计量。
可视化一条路径是反卷积网络将激活投回像素空间,另一条是 Grad-CAM用梯度对通道加权。原书标题写 CAM,算例使用梯度,实际对应 Grad-CAM。LIME不用访问权重,以邻域扰动和局部代理解释单个输入。Darkon与AutoML是工具和搜索案例。 Grad-CAM用目标得分的梯度定位敏感区域、LIME用邻域扰动拟合局部代理模型。
第19章 CV和视觉识别经典模型
先按输出形态区分分类、定位、检测、分割。R-CNN、Fast R-CNN、Faster R-CNN的主线是逐区提特征、共享整图特征、进一步学习候选区域。空间金字塔池化与 RoI池化为变长区域提供固定维数。 视觉任务由输出粒度区分、空间金字塔池化将可变空间区域编码为固定长度、候选区域网络将候选框预测接入共享特征。
YOLO v1和SSD把检测放进一次主干前向,书中SSD译名处有笔误,SSD全称是 Single Shot MultiBox Detector。它在不同尺度的特征图分配默认框。训练时先按 IoU分配正样本,再从剩余负样本中按损失选困难负例,控制负正比至多约 3∶1;仅扩大正样本匹配阈值覆盖无法固定这一比例。推理使用置信度过滤和重叠框抑制。 单阶段目标检测直接预测类别与边框、非极大值抑制删除重复框。
当目标形状和成像条件稳定时,边缘、轮廓近似、几何过滤可以作为传统基线。书中的 OpenCV例提取轮廓并用形状条件筛选对象。
第20章 自然语言处理和CNN
本章从语素、句法、语义到计算机编码。语言模型给词序列或条件续词分配概率,语料选择决定经验分布。独热编码保留身份,词嵌入从上下文预测获得低维表示。 词嵌入用共享低维空间表示词语、N元语言模型限制预测的历史窗口。
NNLM把嵌入、非线性运算和下一个词概率放在一起训练。CBOW及Skip-gram改变预测任务来学习词向量,书中词向量指静态表示。语料清单和老版工具指令用于理解案例的来源。 CBOW和Skip-gram的训练信号方向相反。
最后将传统文本预处理、特征、分类流水线同词级和字符级CNN对照。序列粒度影响输入长度、词表和能捕获的局部模式。 文本CNN的卷积核在局部字符或词序列上检测模式。
第21章 自然语言处理和CNN
原书本章标题与第 20 章相似,正文实际是 Android 应用的界面活动分类与功能测试。案例先从可见控件、布局与关键词得到界面表示,再给页面标注类型,训练模型决定要运行哪组通用测试。 界面场景分类选择测试模板、页面特征保留控件的空间位置、控件可自动采集场景需标注。
离线分类准确率只是流程的一个环节。脚本是否找到预期的控件、先决动作是否已经执行,以及断言能否识别真实功能错误,都需要根据运行记录单独解释。 小样本模型排名依赖验证协议、自动测试要拆开分类与执行失败。
第22章 软件自动修复
自动修复把定位、生成与验证串成迭代。规格描述期望行为,测试或其他 oracle判断观察结果。状态型修复关注运行时恢复,行为型修复改程序或逻辑。 程序修复可以改代码或改变运行时状态。
频谱定位依据通过和失败用例的覆盖差异。轻量频谱记录语句或分支,路径、数据流或组合频谱能区分执行上下文,代价更高。覆盖缺陷却偶然正确的用例会削弱排序信号。改变或缩减测试集时,应测定位质量。 程序频谱用通过和失败测试的覆盖差异排序。
搜索、模板和约束等方法提供候选,原有用例与新增独立规格共同检验候选。SapFix和GenProg是修复路线中的案例,DeepCoder一节则扩展到样例驱动的程序合成。 原有测试通过只表明补丁满足已观察约束、程序合成将可表达的规格映射到受限搜索空间。
第23章 基于强化学习的经典应用——AlphaGO
早期 AlphaGo 的任务是在大量合法落子中选出有望赢棋的一步。仅模仿已有棋谱受样本覆盖和人类策略限制,直接枚举又超预算。系统用策略网络优先考虑部分落子,用自对弈提高训练信号,再保留一个廉价模型用于模拟。 AlphaGo用模型约束搜索预算、策略网络预测下一步动作、快速策略用近似换模拟速度。
价值网络预测当前棋局最终收益,一个局面只输出一项价值。树搜索中的叶子可结合标量估值和快速模拟,再把结果更新给路径上的节点。这是把第 16 章的通用树搜索流程用于围棋的具体方式。 价值网络估计终局收益、估值和模拟共同评价叶子。
第5篇 机器学习平台篇
平台篇导读
导读从工具选择切入。列出的五种框架横跨通用学习与深度网络,关注度和横评表是出版时的快照。选型涉及任务支持、训练资源、模型接口和部署环境,历史榜单可以帮助定位案例使用的版本。
第24章 分布式机器学习框架基础知识
本章以一次训练迭代为线索。数据节点供给样本,计算节点处理局部批次,管理或通信层协调更新。同步训练可以在集中式参数服务器或集合通信中实现。异步训练提高独立推进能力,同时可能用到滞后的参数。图24-2给出局部梯度求和、更新及广播的集中式实例。 分布式训练性能应按迭代的关键路径诊断。
单机内的 CPU、GPU、PCIe 或 NVLink 与跨机网络共同决定性能。CUDA 线程块由 SM 调度,进程是否看得到设备以及有多少显存属于另外的资源配置问题。MPI 和 NCCL定义进程或设备之间的通信操作,RDMA是可供通信后端使用的数据传输机制。书中 24.4.3 的图号引用与图注有一处偏差,全规约以图24-22的图注为准。 广播、聚集与全规约交付的结果各不相同、集合通信效率受设备拓扑与链路竞争限制、RDMA把远端内存的数据传送交给网络硬件。
Caffe-MPI把数据并行、MPI、CPU 多线程、CUDA、Lustre 和 InfiniBand组合成一套案例。硬件型号、吞吐基准、安装示例均以书中环境为准,定位瓶颈仍需对实际拓扑与工作负载测量。
第25章 Tensorflow
本章围绕 TensorFlow 1.x 的计算图组织训练、检查点、微调、调试和可视化。启动时核对设备与依赖,调试时检查变量名、形状和数值,记录 TensorBoard 的损失、图结构与摘要。训练恢复与部署需要清点的状态不同。 计算图定义算子依赖与张量流向、恢复训练和发布推理模型需要不同状态。
一机多卡示例构建计算塔、分批前向和反向并汇总梯度。多机示例增加了集群配置、Worker、参数服务器和设备放置。书末 TensorFlow RS案例说明扩容还会引入参数交换与通信压力,观察单节点和整体吞吐才能定位。 参数服务器集中管理参数并应用工作节点的更新。
部署讨论模型工件与运行服务的生命周期,Serving案例展示导出、版本发现、启动和客户端请求。SSD 案例串联调用,Lite部分延伸到端侧转换和约束。老版安装、CUDA 和 Docker 组合保留为历史材料。 模型服务通过版本策略协调加载与卸载。
第26章 Caffe
本章先用 Ubuntu与Windows环境说明 CPU/GPU构建,然后沿数据、网络、训练和推理走完一个 Caffe工程。LevelDB和LMDB是可供数据层读取的有序键值容器。Protocol Buffer为结构化存储提供消息定义,图像与标签需转换成数据层能解码的记录。 训练数据的键值容器需要匹配读取与事务模型。
prototxt保存层的结构和连线,自定义层定义前向、形状变换及所需的梯度计算。LeNet数字识别例展示 solver、训练测试网络、权重、均值和标签如何相互配合。Caffe2源码目录和 Model Zoo是书中环境的案例索引。 声明式网络配置用张量名称连接层、训练配置和推理工件应分别记录。
第27章 scikit-learn
scikit-learn 把常规模型拟合、变换、评价和参数搜索放到同一实验过程。工程比较需先确定交叉验证划分和评分方向。网格搜索遍历候选组合,随机搜索按预算抽样。 scikit-learn连接实验各环节、聚类选型要看样本几何、网格与随机搜索分配预算、评分接口各有数据输入。
预处理按数据类型决定。数值可缩放、缺值可填补,离散字典属性可展开成指示列。文本按词袋变成稀疏矩阵,再使用词频和文档频率加权。图像的局部块和邻接图可以给下游方法提供空间信息。 预处理区分特征轴与样本轴、字典特征按列展开类别、词袋以稀疏矩阵储存计数、TF-IDF降低常见词的权重、图块与连通图保留空间关系。
第28章 主流AI云平台
本章记录出版时的云端机器学习实现。OpenPAI 的例子将容器作业与集群调度分开,Google 和百度的例子展示现成接口与自定义训练的分工。调用可以从 HTTP 或 SDK 进入,模型训练框架处理则在另一层。 训练平台把资源封装为作业、托管API与自训平台职责不同、云接入可经SDK或HTTP、Paddle框架面向模型训练。
飞天案例把运维、存储和调度当作共享底座,数据仓库与 PAI 在其上支持数据和模型操作。教程从数据准备走到模型 API。控制台原型和实例限制随版本变化,可迁移部分是输入契约、训练划分、评估和部署检查。 集群底座分开运维存储调度、仓库服务隔离底层数据计算、托管训练流水线要验证中间产物、部署接口要复用训练特征契约。
第29章 图像处理基础
RGB与HSV区分通道表示和知觉相关量。灰度、亮度、对比度、色相和饱和度各自描述图像的一部分。位深影响量化级数,空间分辨率影响像素位置采样;书中用模糊形容低量化级数,二者须分别考虑。 图像描述子的选择取决于任务所需的不变性。
颜色、纹理与轮廓可提供互补特征。LBP找局部相对灰度,HOG累积并归一化边缘方向,Haar样式比较矩形亮暗和,积分图加速矩形求和。AdaBoost再按样本误差调整权重并组合分类器。 局部二值模式编码邻域相对灰度、HOG在空间格中累积梯度方向并按块归一化、积分图把矩形像素和化为四个角的加减。
傅里叶变换给出频率构成,而高频与细节、边缘或噪声相关。模糊检测可依据细节损失或局部变化量设计指标,需使用明亮、低纹理和含噪等对照图检查阈值。
第30章 程序切片技术
控制流图用节点表示语句或基本块,用边表示可能传递控制的位置。支配、后支配和循环分析提供结构。数据流同时跟踪变量的定义和使用,达到定义正向传播,活性逆向传播。 支配与后支配用全路径约束描述控制流、到达定义与活跃变量的分析方向相反。
静态分析从位置与变量构成的切片准则出发,综合可能运行和程序依赖;后向切片适于找某观测受哪些语句影响,前向切片适于评估指定变更可影响哪些位置。动态切片加入具体执行信息,对排查某次行为更直接。 程序依赖图可按准则回溯静态后向切片、动态切片回答特定输入的实际依赖。
第31章 人工智能概述
原书第 31 章章题为「人工智能概述」,正文主题是以 ImageNet 为例理解大规模视觉数据集。WordNet 先按词义组织概念。ImageNet 借此建立图像标签层级,再和类别更少的 CIFAR-10 对照说明任务适配。 同义词组表示一个概念而非拼写、图像标签可沿概念层次组织。
建设过程将候选图片收集与目标确认分开。众包人员按明确的同义组定义判断图片,困难类别采用更多独立投票以控制误差。使用基准还需核对任务数据与标签,避免把总规模当作模型实际可用的训练规模。 大规模采集先宽召回后查真、标注票数随概念难度调整、视觉基准按任务选数据子集。
跨章综合
- 第2章的下降方向与链式法则在第12章变成梯度反传。训练第14章的时序模型时,同样的梯度要沿时间传播,门控和范数控制影响其有效范围。
- 第2章的特征向量和协方差为第10章 PCA 建立直觉。PCA 保留总体方差,LDA 使用标签区分类别,第6章 k-means 则以所选尺度上的簇内距离为目标。三者对表示的偏好不一样。
- 第2章的先验与后验解释了第3章 PR 指标为何随基率改变。第17–18章要求先切分再估计预处理统计,防止在训练或阈值选择时把测试信息提前用掉。
- 第9章用约束和对偶把分类写成可分析的优化问题。第19章将分类、定位及非极大值抑制组合成检测任务,输出形式新增了匹配、重复候选和小目标召回问题。
- 第15–16章从长期回报、价值更新过渡到树搜索,第23章说明策略与价值如何通过搜索和自我对弈协同。第24章的训练迭代则换了观察层级,关注数据供给、设备和通信如何决定端到端代价。
- 第22章的覆盖相关性和第30章的程序依赖都能缩小调试范围。覆盖能提供统计排序,依赖图则给出某个观测或变量可能经哪些定义与控制条件产生。
发散与实践
以下是基于本书设计的离线计划,卡片文件见概览的实践卡进度表。实践与复盘尚待开展。
- 稀有事件阈值对照 比较类内分数不变时,基率对告警预算和精确率的影响。
- 训练折内预处理对照 用留出批移动检验训练统计量的隔离。
- 聚类种子与尺度实验 固定样本,比较距离尺度和初始化造成的划分变化。