知识卡片
多元回归中调整R方的必要性
同一训练样本、含截距的嵌套OLS模型中,增加自变量不会增大最小残差平方和,所以普通R²不会降低,但未必严格提高。调整R²用样本量和参数数目惩罚复杂度,新增变量的解释收益不足时会降低。它有助于比较拟合与复杂度,仍不是因果识别或泛化能力的保证,独立测试中的R²甚至可以为负。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第6章 对观测到的事件进行因果推断 6.2 全量评估的主要方法 · 查看原书依据
稍有不同的是,多元回归场景中,增加变量会导致SSE减小,自然使得SSR增加,从而导致R2变大。也就是说,模型中增加一个自变量,哪怕这个自变量和因变量没有什么关系,也会使得R2变大,此时R2就无法客观反映模型的真实拟合效果了。由此,诞生了判定系数,通常记作:
参考来源
- 位置:《数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow》第6章 对观测到的事件进行因果推断,6.2 全量评估的主要方法(来源项目a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow/_epub-src/OEBPS/Text/part0033.xhtml)
- 结论依据:原文明确"多元回归场景中,增加变量会导致SSE减小,自然使得SSR增加,从而导致R2变大。也就是说,模型中增加一个自变量,哪怕这个自变量和因变量没有什么关系,也会使得R2变大……由此,诞生了判定系数……调整后的R2包含了样本量n以及自变量个数k所带来的影响,但不会因自变量增多而产生变化"。
- 原始内容:稍有不同的是,多元回归场景中,增加变量会导致SSE减小,自然使得SSR增加,从而导致R2变大。也就是说,模型中增加一个自变量,哪怕这个自变量和因变量没有什么关系,也会使得R2变大,此时R2就无法客观反映模型的真实拟合效果了。由此,诞生了判定系数,通常记作: