← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9447.h · 生成模型:Tencent Hunyuan Hy

软间隔与松弛因子

理解等级:中级

前面方法都假设数据线性可分,但现实项目总有噪声,一味追求100%分对会陷入过拟合,因为这种分类器在新数据上未必好。硬间隔要求所有样本函数间隔都≥1;软间隔则引入松弛因子 ξi≥0,允许部分误分类样本的间隔小于1,并给错误加惩罚项。惩罚参数 C 用来协调两者:C 越大对误分类惩罚越重、越追求分类正确,C 越小越宽容、间隔可以更大。只有误分类样本才有松弛因子。对偶问题相比硬间隔只是给 αi 加上上限 C(0≤αi≤C),求解类似;换用核函数即可推广到非线性。软间隔代价函数同时考虑分类误差与模型复杂度,因此实际项目中的SVM基本属于这一类。边界是 C 需按数据调整,无通用取值;C 趋于无穷会退化为硬间隔。可迁移的启发是:数据有噪声时,允许适度犯错并给错误定价,比追求完美拟合更稳健。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《产品经理进阶:100个案例搞懂人工智能 (林中翘)》第8章《求解支持向量机》(源文件:`../../book-sources/extracted/产品经理进阶:100个案例搞懂人工智能 (林中翘)/_epub-src/OEBPS/text00013.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292) - 结论依据:原文解释引入松弛因子可表示误分类样本,并说明 C 越大对误分类惩罚越大、是协调间隔与错误的正则化系数,支撑了“软间隔用惩罚参数平衡间隔与错误”的结论。 - 原始内容:式子中的参数C为惩罚参数,C越大,对误分类的惩罚越大;C越小,对误分类的惩罚越小。也就是说,我们希望前面的式子尽量小,误分类的点尽可能少。参数 C 是协调两者关系的正则化惩罚系数。