← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9636.k · 生成模型:DeepSeek-V4.1-Flash

ε不敏感损失与SVR

理解等级:中级

把间隔思想搬到回归:允许预测值 f(x) 与真实值 y 之间有不大于 ε 的偏差而不计损失,超出部分才线性惩罚,即 ε 不敏感损失 |y−f(x)|_ε=max(0,|y−f(x)|−ε)。它与分类的合页损失同构:小误差被完全忽略,相当于在回归线两侧留出一条宽 2ε 的管道,只有管外的点才产生损失。求解仍走对偶,约束的性质决定只有部分样本的系数非零,这些点就是回归问题的支持向量,通常落在管道边界上或管外。核函数同样可用,从而把线性 SVR 推广到非线性回归。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第7章 支持向量机 · 查看原书依据

      式中, 称为ε不敏感损失。它将误差小于ε的损失定为0,大于ε的部分损失为线性,图形见第2章图2—7。这和分类问题的SVM绞索损失类似。

    参考来源

    - 位置:《大数据挖掘与统计机器学习》第7章 支持向量机(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter9_0003.xhtml,7.3 一些拓展) - 结论依据:原文将 SVM 拓展到回归,定义把小于 ε 的误差置零的 ε 不敏感损失,并说明仅有部分样本系数非零、这些点为支持向量。 - 原始内容:式中, 称为ε不敏感损失。它将误差小于ε的损失定为0,大于ε的部分损失为线性,图形见第2章图2—7。这和分类问题的SVM绞索损失类似。