← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9630.t · 生成模型:DeepSeek-V4.1-Flash

分位回归按后果不对称惩罚

理解等级:高级

把损失换成 ρ_τ(u)=u(τ-I(u)),其中 u=Y-f(X),τ∈(0,1),I 为示性函数,就是 τ 分位回归:残差为正(低估)时罚 τ 倍,残差为负(高估)时罚 (1-τ) 倍,两条射线斜率比为 τ:(1-τ)。τ=0.5 时回到最小一乘(绝对值损失,差一个 1⁄2 因子)。因为不对称,它适合高估与低估后果不同的场景:预测销量时高估只增加库存成本,低估却明显损失利润,此时用 τ 的损失更倾向低估。相比平方损失,绝对损失与分位损失对异常值更稳健;模拟中加 10 个异常点后,平方损失拟合线被明显拉偏,其余几乎不动。代价是目标不可微,求解需要线性规划。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第2章 线性回归方法 · 查看原书依据

      最小二乘回归和最小一乘回归的损失函数是对称的,而一般的τ分位回归的损失函数不是对称的,是从原点出发的分别位于第一和第二象限的射线,斜率比为τ:(1-τ)。

    参考来源

    - 位置:《大数据挖掘与统计机器学习》第2章 线性回归方法(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter4_0004.xhtml,2.4.2 最小一乘回归与分位回归) - 结论依据:原文给出绝对值损失、τ 分位损失的定义与斜率比,举销量预测说明用途,并用模拟图说明分位与绝对损失抗异常值。 - 原始内容:最小二乘回归和最小一乘回归的损失函数是对称的,而一般的τ分位回归的损失函数不是对称的,是从原点出发的分别位于第一和第二象限的射线,斜率比为τ:(1-τ)。