知识卡片
调整R²挡住变量堆砌
R²=SSR/SST 是回归解释的波动占总波动的比例,越接近 1 拟合越好。但它有结构性缺陷:往模型里加变量,SSE 不会上升,R² 就不会下降,于是“多加变量总能提高 R²”,容易诱导堆砌变量。调整 R² 用自由度做惩罚,把 SSR 与 SSE 各自除以对应自由度后再比较,只有新变量带来的解释增量超过它消耗的自由度时才会上升。原文同时提醒,R² 没有绝对及格线,模型拟合优度也不是判断模型质量的唯一标准,为了实际意义可以适当放宽。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第2章 线性回归方法 · 查看原书依据
如果在模型中增加一个自变量,R2的值会随之增加,这会给人一种错觉:要想模型拟合效果好,就得尽可能多地引进自变量。
参考来源
- 位置:《大数据挖掘与统计机器学习》第2章 线性回归方法(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter4_0001.xhtml,2.1.1 多元线性回归模型)
- 结论依据:原文指出增加自变量必然使 R² 增加,为防这种倾向引入带自由度修正的复相关系数。
- 原始内容:如果在模型中增加一个自变量,R2的值会随之增加,这会给人一种错觉:要想模型拟合效果好,就得尽可能多地引进自变量。