知识卡片
间隔最大化化为凸二次规划
若 (ω, ω0) 是解,则对任意 a>0,(aω, aω0) 表示同一超平面,解因此有无穷多个,必须固定尺度。两种固定方式:令 ‖ω‖=1;或约定最近样本点的函数间隔恰为 1,即约束 y_i(ω^T x_i+ω0)≥1。此时间隔等于 1/‖ω‖,最大化间隔等价于最小化 ‖ω‖²/2。目标为凸二次函数、约束为线性,构成凸二次规划:局部最优即全局最优,可用成熟求解器;线性可分又保证可行域非空,解一定存在。这个等价改写是 SVM 能落到算法上的关键一步。
结构图:
flowchart TD
A["同乘正数不改变超平面"] --> B["解不唯一,需固定尺度"]
B --> C["约定最近点函数间隔为 1"]
C --> D["约束 yi(w'xi+w0)>=1"]
D --> E["间隔 = 1/||w||"]
E --> F["最小化 ||w||^2/2 的凸二次规划"]
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第7章 支持向量机 · 查看原书依据
如果(ω, ω0)是满足优化问题(7.1)的解,则对于任意的a>0, aω和aω0也是上述优化问题的解。因此问题(7.1)的解(ω, ω0)有无穷多个,但这些解表示同一个超平面。
参考来源
- 位置:《大数据挖掘与统计机器学习》第7章 支持向量机(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter9_0001.xhtml,7.1 线性可分支持向量机)
- 结论依据:原文指出缩放导致解无穷多,需加约束,并说明取函数间隔为 1 后问题等价于一个凸二次规划,可行域非空故有解。
- 原始内容:如果(ω, ω0)是满足优化问题(7.1)的解,则对于任意的a>0, aω和aω0也是上述优化问题的解。因此问题(7.1)的解(ω, ω0)有无穷多个,但这些解表示同一个超平面。