知识卡片
SVM的数学定义与基本型
SVM的第一步是把几何直觉形式化。超平面写成 w·x+b=0:w 是法向量,决定超平面方向;b 是位移项,决定它与原点的距离,求解SVM就是求参数 w 和 b。借助点到平面的距离公式定义几何间隔,并要求所有样本分类正确(正样本 yi=+1、负样本 yi=−1,取±1只为计算方便),把间隔最大化转化为最小化 ‖w‖,得到一个带不等式约束的二次型函数优化问题,即SVM基本型,也称原问题。用途是给出可计算的求解目标与约束。边界是它要求线性可分且全部样本正确(硬间隔),约束数为样本数 m。反例是一旦存在噪声使数据不可分,硬约束就无解,必须转向软间隔。可迁移的启发是:把几何或业务直觉改写成“目标函数+约束条件”,是求解任何优化问题的通用第一步。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 求解支持向量机 8.2.1 SVM的数学定义 · 查看原书依据
第一环节我们所做的事情是将寻找最优的分割超平面的问题转换为带有一系列不等式约束的优化问题,这个优化问题被称作原问题。直接对原问题进行求解比较复杂,我们需要找到一个更高效的方法来求解,目前常用的方法为拉格朗日乘子法。
参考来源
- 位置:《产品经理进阶:100个案例搞懂人工智能 (林中翘)》第8章《求解支持向量机》(源文件:`../../book-sources/extracted/产品经理进阶:100个案例搞懂人工智能 (林中翘)/_epub-src/OEBPS/text00013.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292)
- 结论依据:原文说明求解SVM就是求解 w 和 b,并把寻找最优分割超平面转换为带一系列不等式约束的优化问题(原问题),支撑了“SVM本质是二次型约束优化”的结论。
- 原始内容:第一环节我们所做的事情是将寻找最优的分割超平面的问题转换为带有一系列不等式约束的优化问题,这个优化问题被称作原问题。直接对原问题进行求解比较复杂,我们需要找到一个更高效的方法来求解,目前常用的方法为拉格朗日乘子法。