此笔记位置已失效,请从目录继续阅读。
全书导读
用数据建立模型之前,先说明样本怎么取得、希望输出什么以及用什么标准评价。可视化帮助检查样本与结果,特征把输入转成可比较的表示。后续各章从邻近关系走到参数拟合、降维、核方法和分层表示。
全书主线
做任务时,先决定数据表示与评价。近邻与聚类依赖可比较的距离,回归通过损失定义怎样拟合。主成分、邻居图和核分别尝试保留全局方差、局部关系或计算新的相似性。神经网络把表示和决策联合训练。
前言
作者把这本书设计为入门教材。数据可视化和图像特征为建模准备不同形式的输入,随后用KNN和K-means区分监督与无监督任务。回归与降维为核方法和神经网络提供先备知识,例子和代码用于把数学模型落到可运行的任务上。前言也交代了讲义来自实践班及不同专业学生的反馈。
第1章 数据与机器学习
先问采样得到的是什么,再确定模型应输出类别、数值还是分组。预处理改变输入的尺度和完整程度,评价指标决定结果的哪一面算成功,二者贯穿后续模型。
从对象到样本
同一对象可以被采成不同的数据。花的花瓣数量和大小可直接组成结构化特征,照片则要先决定如何表示视觉信息。时间采样也要与被测过程的变化速度匹配。同一人连拍得到的画面可以相当相似,高速运动分析却可能需要密集采样。
本节卡片补充机制、适用条件和例子。
任务按输出区分
分类分配已定义的类别,回归估计一个数值,聚类从未标注数据中找分组。降维在多个样本上学习低维表示,图像描述子则把每幅图变成便于比较的特征。可视化帮助人理解结果,例如观察二维嵌入中的邻近关系。
本节卡片补充机制、适用条件和例子。
学习场景取决于反馈
监督学习用可对照的标签或数值,无监督学习通过样本本身找结构。半监督把少量标注与未标注样本结合,弱监督容许不精确或不完整的指导。迁移学习关心怎样复用有关任务或领域的知识,强化学习通过行动获得的奖励来学习策略。
本节卡片补充机制、适用条件和例子。
尺度与缺失值
最小最大缩放把数值线性变换到可比较尺度,极值会影响其他样本被压缩的程度。书中成绩示例的叙述采用及格分和满分作为界限,配套代码使用样本极值,两种做法对应不同的参考基准。Z-score用均值和标准差调整单位,仍保留原有分布形状。缺失值可以删除或估计,选择要结合可用样本数量以及填充值对下游任务的影响。
本节卡片补充机制、适用条件和例子。
评价服务于任务
回归可比较误差的绝对值、平方或相对于均值预测的改善。分类可从整体正确率出发,再看各类错误。机器人导航揭示单指标的局限,成功抵达与抵达成本是两类信号。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
全书模型关系
图像表示可以送入邻近分类、聚类或回归。降维筛选保留的信息,核映射改变可用的线性结构,神经网络进一步把特征表示纳入参数学习。可视化可单独用于检查数据,也能与聚类的迭代过程结合。
文献
本节列出流形感知、弱监督图像分类、迁移学习、卷积填补缺失和矩阵求导的来源。
习题
习题用常见数据类型、未经缩放的后果和缺失属性处理检验本章三个输入问题。
第2章 数据可视化
可视化把抽象数据变成可感知的位置、长度、颜色和形状。书中以同一批图书的借出和归还说明,比较馆藏借阅总量、看类别占比与追踪馆间流量,需要不同的图形。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
根据比较目的选图
比例可用完整的饼图呈现,类别数量可比柱长,顺序趋势可连成折线。玫瑰图和雷达图把信息放在圆周附近,前者可同时编码多个量,后者展示多属性轮廓。平行坐标用多根轴保留每个对象的属性路径。桑基图以边宽展示有阶段的流向,弦图适合主体间的成对往来。散点图用位置表达样本分布。
本节卡片补充机制、适用条件和例子。
视觉线索与多图联动
修改已有对象的亮度和透明度属于内部线索,增加箭头或改变点形状属于外部线索。单图同时表达多个结构有困难时,可以组合视图,或者使用按层级画圆环、按比例画扇区的旭日图。
本节卡片补充机制、适用条件和例子。
文献
本节列出可视化设计、格式塔心理学与视觉线索的来源。
习题
练习要求说明各种图的适用条件,并用可调权重的十项全能结果和节点筛选体会交互设计。
第3章 图像特征提取
把尺寸各异的图像变成等长向量,分类器才有统一的表示空间。书中用两个不同人数的班级说明,可用固定分数段的分布或各科均分比较群体。类似地,图像的颜色和纹理可以由固定统计规则表示,其价值取决于能否保留任务所需的差异。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
数字图像的采样和量化
空间采样决定记录哪些位置,时间采样决定多久记录一帧,量化则离散化位置上的强度值。灰度图可以写成矩阵,矩阵元素是离散亮度。相邻元素与中心像素构成随后用于识别纹理的窗口。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
LBP从局部比较构成纹理
局部二值模式将邻点亮度和中心亮度比较,用固定顺序打包成整数。整图的局部编码直方图形成向量。均匀亮度偏移保留大小关系,普通编码对旋转、非均匀照明与阈值附近噪声仍敏感。
本节卡片补充机制、适用条件和例子。
颜色空间与颜色量化
RGB使用三个颜色通道,HSV把颜色拆成色相、饱和度与明度。分量离散化后再组合统计,能避免为每种原始颜色分配一个箱。书中把8位三通道的2²⁴组合压缩为每通道16档后的2¹²组合。
本节卡片补充机制、适用条件和例子。
混合进制编码颜色箱
三个量化坐标可一次编码成单个索引。在20档色相、10档饱和度、5档明度的示例中,编号可写成50h+5s+v。逐像素统计编号,最后对频次按图像大小归一,就能得到固定维度的颜色分布。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
全局直方图的局限
颜色分箱会合并一部分差异,也会在边界处分开接近的颜色。全局计数另外还丢失像素位置,因此颜色比例相同但排布不同的图像可能得到相同向量。分区域统计或融合纹理与边缘可以补足空间线索。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
文献
参考文献指向局部二值模式及其变体、颜色空间、图像检索、局部特征与数字图像处理。
习题
练习讨论LTP、代码与理论循环的差异以及颜色量化粗细,还要求针对明度集中区域设计非均匀分箱。
第4章 数据分类
KNN利用训练集中的记录直接给新样本赋类。图像特征使样本可比较,尺度处理和距离选择共同决定谁是邻居,投票把这些邻居的标注变成一个预测。
训练集与测试集
测试时可保有真实类别供计分,但模型预测时只得到样本特征。用见过的训练数据给模型估计泛化能力,会把记忆训练样本和处理新样本混在一起。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
近邻检索与投票分类
查询时,用指定度量比较测试点与训练点,选出k个最接近者并投票。邻居取决于特征、尺度和度量,例4.2中原本两个相关属性可以只保留一个以避免重复加权。训练不必拟合显式映射,查询时则须承担搜索成本。
本节卡片补充机制、适用条件和例子。
从正确率追问错误类型
用混淆矩阵逐类记录真实类别与预测类别的组合。例4.3的120个样本里,有109个真阴性、6个真阳性、4个假阳性、1个假阴性。整体正确率约95.8%,仍需按错误代价检查分项。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
邻域规则与编码
固定k的近邻总返回指定数量,固定半径的邻域可随密度改变大小。票数并列时需明确决策条件。独热编码把每一类映射到一个位置,从而避免把类别编号中的大小关系当成数值含义。
本节卡片补充机制、适用条件和例子。
文献
本节列出早期近邻分类、概念漂移、自适应记忆、KD树、近似近邻和高维下近邻有效性等引用。
习题
练习要求构造L1和L2排序不同的例子,解释KNN局限,并以矩阵计算余弦相似性。
第5章 K-means聚类
聚类从属性相似性形成组。K-means用预先指定数目的中心和平方距离描述一组划分,再通过交替更新中心和样本归属减小目标函数。
聚类的目标与选择
样本相似性依赖数据表示和任务。没有真实类别时,聚成的组仍需业务解释。密度方法可在无需指定簇数的设置下发现不同形状的簇,子空间方法则通过换一个表示空间让簇更易区分。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
距离选择与交替聚类
欧氏、曼哈顿与汉明距离适用的属性含义不同。K-means固定中心分配样本,再固定分组用均值更新中心,每步都降低或保持平方误差。初值会改变收敛位置,异常点会拉动均值,非凸簇也常被线性边界切开。K-medoids用真实样本做代表,能直接使用样本之间的距离。
本节卡片补充机制、适用条件和例子。
用多个角度评价聚类
内部指标只看当前结果的紧致和分离。DB取最难区分的邻簇之比,XB重罚最近中心太近,BH按簇平均,邓恩类指标可只根据点对距离。外部指标先要参考划分,再比较两种划分是否把相同样本对放在一起。
本节卡片补充机制、适用条件和例子。
用簇构建视觉词表
从训练图像提取局部特征,用K-means给它们建立码本。每幅图把局部特征就近归到词表中心,再计数成固定长度向量。此时簇数控制表示粒度,可以用下游识别效果来选择。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
文献
本节列出K-means、初始化、聚类验证、密度聚类、仿射传播、均值漂移和深度聚类等来源。
习题
练习构造非凸反例、修改硬分配、区分两类算法里的k并编程实现K-medoids。
原书依据 · 1 处
交互式聚类实验
Unity示例将状态、操作、进度和散点交互分区。可手动放样本和中心,按一次样本分配、一次迭代或直接收敛推进。书中用字母形状的点集说明,即使结果已经收敛,个别点仍会被分到与视觉预期不符的簇。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
粒度服务于问题
样本级适合解释某点为何归到该簇,轮次级方便看簇如何变化,收敛级用来比较最终结果。图4种区域分别承担状态、操作、进度和交互,帮助用户切换观察粒度。
文献
本节给出人在环机器学习的延伸书目。
习题
练习把交互式可视化方法迁移到其他算法,并解释人何时能补充模型缺少的判断。
第7章 线性回归与正则化
线性回归用属性的加权和预测连续数值。降雨预测水位的例子说明方法能从配对观测中拟合关系,水位也会受其他因素影响,单靠回归相关关系无法确定因果。
用残差描述拟合目标
给每个属性一个系数,再加截距,就能对新输入做预测。模型求解关注每个观测的预测值与真实值的差。回归线可不穿过任何观测,只要它按选定损失做到了整体拟合。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
损失选择与几何求解
均方误差用平方放大大残差,平均绝对误差对大残差惩罚较温和。把偏置合进设计矩阵的常数列后,最小二乘可以用求导或正交投影求解。两种方式都得到残差垂直于设计矩阵各列的条件。
本节卡片补充机制、适用条件和例子。
岭回归与稀疏约束
列近似相关会使误差对系数估计影响很大。岭回归对系数平方加惩罚,抑制过大的系数并改善条件。Lasso用绝对值惩罚,部分系数可精确归零。弹性网结合两种惩罚。
本节卡片补充机制、适用条件和例子。
R²比较均值基准
误差平方和有目标单位的尺度,两个不同目标的误差不能仅按数值大小排序。R²用目标相对于均值的总平方和做基准,衡量预测减少了多少比例的平方误差。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
文献
本节列出回归历史、线性统计模型、Lasso、最小角回归和应用机器学习。
习题
练习回归假设、正则化强度、求解稀疏系数及如何判断矩阵性态。
第8章 逻辑回归
逻辑回归先生成线性得分,再用概率函数解释得分,最后将概率用于类别判断。二分类用Sigmoid,多分类可用Softmax。
二分类概率与似然
线性得分表示正反结果的对数胜算。Sigmoid将其变成二分类概率。按独立伯努利观测建立似然,最小化负对数似然即训练交叉熵。水果示例用质量、维生素C与糖分区分橘子和柠檬。
本节卡片补充机制、适用条件和例子。
Softmax让类别共享概率
每类打出一个分数,指数化后除以所有类别的指数和。提高某一类分数会在总概率固定下影响其他类。训练用可微概率,预测时再取分数或概率最大的类。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
文献
本节列出二元序列回归及两种人脸识别损失的论文。
习题
练习正则化、学习率与训练抖动、Softmax的局限,以及两种损失的凸性差异。
第9章 线性降维
PCA寻找一个较低维的线性空间,使样本的大部分变动仍能用低维坐标表示。它给后续距离计算与可视化提供表示,但保留最大方差并不等于保留任务所需的信号。
取原属性还是组合属性
特征选择保留原有轴,容易解释。特征提取可以旋转投影方向,把属性组合成新坐标。例9.1中仅选能耗或使用状态都会让点重叠,转到斜方向可保留更多差异。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
投影后保留总体差异
把数据减去均值后做奇异值分解,取最大的d个奇异值对应的方向。投影坐标就是中心化样本与这些方向的内积。选最大方向对应于使点对平方距离的平均尽量大。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
重构误差的等价视角
把低维坐标乘回基底,可得到原空间中的正交投影。每个中心化点的平方长度分成保留的投影长度平方与丢弃的残差平方,所以保留投影能量与降低重构误差是同一选择。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
协方差解释与稳健性
协方差矩阵描述属性的方差及共同变化,主方向是在单位长度和互相正交约束下方差较大的方向。异常点对平方距离有大影响,可能扭转投影方向。PCA不使用标签,最大变异方向也可能与分类无关。
本节卡片补充机制、适用条件和例子。
文献
本节列出PCA早期工作、综述、局部PCA,以及t-SNE与UMAP等可视化方法的论文。
习题
练习小样本高维场景、新样本映射、维数选择与噪声敏感性。
第10章 非线性降维
数据可能在高维空间中弯曲,却能在局部用少量坐标描述。旋转茶壶的图像向量维数很高,但主要变化来自角度。线性投影可能重叠,局部图方法尝试尽量保留邻近结构。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
LLE保存邻域重构
LLE先找每个点的近邻,求以邻居线性组合重构该点的权重,再找低维坐标,使原权重在那里仍能重构该点。权重和为1使重构关系不随整体平移改变。邻居太少时图会松散,太多时可能连接流形上实际很远的点。
本节卡片补充机制、适用条件和例子。
用图拉普拉斯保持近邻
LE通过邻接权衡量两个高维点应有多接近,强边在低维空间被拉远时产生较大代价。度矩阵记录各点连边权重的总和,与邻接矩阵形成图拉普拉斯。最终通过广义特征值问题得到坐标。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
邻居图还能排序和聚类
流形排序沿图传播与查询有关的信息。谱聚类先使用图结构提取更适合分组的表示,可以处理最近中心法难分的弯曲簇,主要成本是图和特征分解。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
降维保留的关系不同
PCA保留整体方差,LLE保留局部重构,LE保留邻边接近性。三者可借矩阵二次型统一描述,但采用的关系与优化约束不同,结果也就不同。
文献
本节列出流形感知、LLE与LE原始工作、邻域选择变体、Isomap和局部切空间排列。
习题
练习权重与图拉普拉斯是否对称、权重和约束的作用、正则化和瑞士卷上实现LE。
第11章 核函数及其应用
核方法通过计算两个输入在特征空间的内积,让原本只能利用线性结构的方法处理弯曲边界或非线性回归。
高维线性边界对应原空间曲线
长度误差和质量误差例子中,合格区域是椭圆内部。把平方及交叉项写成新坐标后,椭圆方程变成新空间中的线性方程。这用原属性构造新坐标,不需要采集额外属性。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
用核值替代显式坐标
平方内积核能直接算二次特征的内积,某些核甚至对应无限维特征空间。可核化算法依赖样本内积或能由内积重写。半正定性质保证有限样本的核矩阵可以解释成一组向量的内积。
本节卡片补充机制、适用条件和例子。
核回归用训练样本作基
先构造训练样本两两的核矩阵,求各训练点参与预测的系数。预测新点时计算它与训练点各自的核值再做线性组合。矩阵接近奇异时可用岭项稳定求解。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
核PCA先中心化内积
核PCA要在不可见的特征空间里做PCA,因此改为求训练样本Gram矩阵的特征向量。中心化可直接作用于核矩阵,主方向所需的相对位置由中心化后的核值得到。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
核方法的边界
可把预测写成训练样本核值的加权和。核函数的选择决定了由何种相似性来迁移信息,固定形式和参数并不总能适合真实数据。显式近似和多核组合是书中提到的两个扩展方向。
文献
本节列出Mercer核、统计学习、核回归与核PCA、显式特征近似等来源。
习题
练习给其他模型添加核函数,并设计线性回归处理不好的非线性样本。
第12章 神经网络基础
神经元把输入加权后变换,多个神经元组成层。异或展示中间层为什么能让原来不可分的数据变得可分。网络可以用目标标签、输入的相似结构或输入本身来构造学习信号。
神经元、激活与异或
一个神经元先算加权和与偏置,再用激活函数变换。Sigmoid和Tanh在两端饱和,ReLU在正半轴保持斜率,但可能让某些单元长期没有梯度。符号型感知机只能画出一个线性边界。隐藏层叠加多个边界后,输出层便可组合这些判断,实现异或。
本节卡片补充机制、适用条件和例子。
前馈网络的学习目标
前馈网络按层传递;带反馈的网络允许输出回到先前状态。监督训练对照目标值选择损失。竞争学习使最匹配的权重靠近输入,自编码器用重构误差约束狭窄的隐表示,在没有类别标签的情况下学习特征。
本节卡片补充机制、适用条件和例子。
文献
本节列出人工神经元、感知机、神经网络教材、随机连接网络和宽度学习研究。
习题
练习让ReLU参与LMS更新、构造另外一组异或网络并判断全线性网络的表达能力。
第13章 反向传播神经网络
前向传播逐层生成输出,反向传播沿依赖反向计算梯度,优化器再用梯度移动参数。反向传播传递的是微小参数变化对损失的影响。
梯度和步长
负梯度是在局部欧氏意义下使函数下降最快的方向。二次曲面的椭圆等高线说明,不同方向曲率相差很大时,一样的步长可能在一轴收敛缓慢、另一轴产生振荡甚至发散。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
抽样估计完整梯度
全量梯度需要汇总所有训练样本。SGD用随机单样本或小批量算近似梯度,以更多次低成本更新替代频繁计算全量梯度。随机梯度可围绕真实梯度波动。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
链式法则递推各层梯度
先保存当前网络前向得到的激活与损失。由输出算起,把下一层误差信号乘回权重并乘当地激活导数,得到上一层误差信号。参数梯度由这一信号和上一层激活得到,最后再用优化规则更新。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
梯度在逐层连乘中衰减
隐藏层的梯度要经过多个中间权重和导数。若这些乘积反复缩小,靠近输入的层几乎没有更新。ReLU正区间的导数为1,归一化可影响激活落在哪个区间,但仍需检查实际梯度。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
文献
本节列出反向传播、神经网络设计、ReLU和批量归一化等参考。
习题
练习链式法则、两层梯度计算、局部不可导点和将例题替换成交叉熵损失。
第14章 深度神经网络
深网络把表示学习与任务目标连接起来。训练损失沿反向路径引导各层改变特征,卷积根据图像的局部结构利用参数共享。
深度提供组合层次
多层网络把前一层特征作为后一层输入,能形成更复杂的非线性决策。增加宽度也可增强表现,是否有收益还取决于结构约束与优化。端到端学习将表征参数和目标一起训练。
本节卡片补充机制、适用条件和例子。
原书依据 · 1 处
卷积、激活与池化
同一卷积核滑过图像不同位置,得到一张局部特征响应图。激活添加非线性,池化在局部窗口取最大值或平均值并可下采样。例14.1中32边长经5大小的有效卷积成为28,再用大小和步长均为2的池化变为14。
本节卡片补充机制、适用条件和例子。
五种卷积结构的设计取舍
AlexNet将数据增强、ReLU和Dropout结合。VGG通过叠小卷积核扩展感受野。GoogLeNet先降通道再并行学习多尺度。ResNet加入恒等捷径,让残差支路学习修正。SENet根据当前样本各通道的全局响应生成通道权重。
本节卡片补充机制、适用条件和例子。
文献
本节列出CNN早期研究以及AlexNet、VGG、GoogLeNet、ResNet、SENet和批量归一化论文。
习题
练习讨论网络深度的局限、比较传统和深度模型,并对比三个3×3卷积与一个7×7卷积的参数。
跨章综合
KNN、缺失值填充和LLE都使用近邻,但借用的信号不同。KNN让已标注邻居投票,填补用邻居已观测的属性值,LLE用邻居重构权重来约束低维坐标。邻居是否合理需要回到采集方式、度量和尺度。
PCA和自编码器都可从重构误差看保留了什么信息。PCA用正交线性子空间;自编码器通过非线性编码和解码可以拟合弯曲结构,仍须另查局部几何。图方法会直接规定要保留的邻接关系。
线性回归与逻辑回归都使用线性得分,但损失分别服务于数值误差和类别概率。深网络同样可用交叉熵,在输出层得到误差信号后,再经反向传播影响先前各层的表示。
发散与实践
读者延伸。先从一个小点集跟踪K-means初始化、更新和终止,再从PCA的中心化向下跟踪分解器。两份实践卡已准备首轮源码映射,完整实践待执行。
两份实践卡可从同书概览的实践卡进度表打开。