知识卡片

普通读书笔记卡 · 9636.f · 生成模型:DeepSeek-V4.1-Flash

惩罚系数 C 控制容忍度

理解等级:高级

把约束 ∑ξ_i≤常数 改写进目标,得到 min ½‖ω‖²+C∑ξ_i,C 称为代价参数,与约束中的常数一一对应,λ=1/C 可视为正则化强度的倒数。C=∞ 时任何越界都被禁止,退化为线性可分情形;C 越大越不容忍错分,边界迁就少数难分点,间隔窄、方差大;C 越小越容忍错分,间隔宽、偏差大。它属于需要用交叉验证选取的超参数,R 的 svm() 中参数名即 cost。此外,只有边界附近的点进入约束,远离边界的样本几乎不影响解,模型因而较稳健,这一点与 Logistic 回归相似。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《大数据挖掘与统计机器学习》第7章 支持向量机(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter9_0002.xhtml,7.2 软间隔支持向量机) - 结论依据:原文给出软间隔的等价目标形式,说明 C 代替约束常数、C=∞ 对应线性可分,并指出远离边界的点对求解作用不大。 - 原始内容:优化问题(7.4)的等价形式可以表示如下: 这里“代价”参数C代替了约束条件中的常数,C=∞时代表线性可分情况,此时,所有ξi=0。