知识卡片
松弛变量允许样本越界
当两类点重叠时,任何超平面都会分错一些点,硬间隔无解。软间隔为每个样本引入非负松弛变量(slack variable)ξ_i,把约束放宽为 y_i(ω^T x_i+ω0)≥M(1−ξ_i),并在目标中加入 C∑ξ_i。ξ_i 是该点在错误方向上越界的相对距离,据此可分三档:带外且分对的 ξ=0;落在隔离带内但仍在正确一侧的 0<ξ1,才是真正错分。原文还提到另一种写法 y_i(ω^T x_i+ω0)≥M−ξ_i,它约束绝对距离、更自然,但优化求解更困难,故通常采用相对形式。
结构图:
flowchart TD
A["样本相对边界的位置"] --> B["带外且分对: xi=0"]
A --> C["带内但同侧: 0<xi<1"]
A --> D["越到对侧: xi>1 真错分"]
B --> E["不计入惩罚"]
C --> E
D --> F["按 C*xi 线性惩罚"]
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第7章 支持向量机 · 查看原书依据
在这里,ξi表示预测值f(xi)=ωTxi+ω0在边界的相反(错误)方向的相对(比例)距离,因此,通过限定的大小,我们约束所有样本量在边界的相反(错误)方向的相对(比例)距离的总大小。
参考来源
- 位置:《大数据挖掘与统计机器学习》第7章 支持向量机(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter9_0002.xhtml,7.2 软间隔支持向量机)
- 结论依据:原文定义松弛变量,比较两种约束写法,并逐档说明 ξ 取值与是否真正错分的对应关系。
- 原始内容:在这里,ξi表示预测值f(xi)=ωTxi+ω0在边界的相反(错误)方向的相对(比例)距离,因此,通过限定的大小,我们约束所有样本量在边界的相反(错误)方向的相对(比例)距离的总大小。