知识卡片
最大间隔原则
能把两类点分开的超平面有无穷多个,SVM 的判据是选那条离两类点都最远的。做法是把超平面向两侧平移,直到各自碰到最近的样本点,两条边界之间形成隔离带,宽度为 2M,M 即几何间隔。间隔越大,训练点位置稍有扰动时边界不会大幅摆动,模型越稳定,新样本也更不容易落到错误一侧。因此最大间隔不是审美偏好,而是把“对未见样本稳健”翻译成了可计算的几何量。求解时最大化 M,最终等价于最小化 ‖ω‖,见 [[间隔最大化化为凸二次规划]]。
结构图:
flowchart TD
A["可分超平面有无穷多条"] --> B["用点到超平面的距离度量"]
B --> C["要求两类点都远离边界"]
C --> D["形成宽度 2M 的隔离带"]
D --> E["取 M 最大的那个超平面"]
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第7章 支持向量机 · 查看原书依据
用肉眼我们可以找出多条直线将图7—1中的两类数据点分开。这些直线中哪一条最好呢?在现有的训练数据下,无疑同时远离两类数据点的直线是最好的。因此问题变成如何度量点到直线的距离,然后最大化这些距离的和。这就是所谓的最大间隔原则。
参考来源
- 位置:《大数据挖掘与统计机器学习》第7章 支持向量机(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter9_0001.xhtml,7.1 线性可分支持向量机)
- 结论依据:原文以“哪条直线最好”设问,指出同时远离两类点的直线最好,并称之为最大间隔原则。
- 原始内容:用肉眼我们可以找出多条直线将图7—1中的两类数据点分开。这些直线中哪一条最好呢?在现有的训练数据下,无疑同时远离两类数据点的直线是最好的。因此问题变成如何度量点到直线的距离,然后最大化这些距离的和。这就是所谓的最大间隔原则。