知识卡片
多元回归中调整R²的必要性
内容
多元线性回归里，只要往模型里加一个自变量，哪怕它和因变量毫无关系，R²也会机械地变大，因为残差平方和不会因为多一个自由变量而增大。调整后的R²在计算中引入了自变量个数的惩罚项，专门纠正”变量越多、R²越好看”这个假象，是判断模型是否真的解释力更强、而不是单纯靠堆砌变量刷分的更可靠指标。
参考来源
- 位置：《数据科学工程实践》第6章《对观测到的事件进行因果推断》"6.2.1 回归分析"一节（源文件：_epub-src/OEBPS/Text/part0033.xhtml）
- 结论依据：原文明确"多元回归场景中，增加变量会导致SSE减小，自然使得SSR增加，从而导致R2变大。也就是说，模型中增加一个自变量，哪怕这个自变量和因变量没有什么关系，也会使得R2变大……由此，诞生了判定系数……调整后的R2包含了样本量n以及自变量个数k所带来的影响，但不会因自变量增多而产生变化"。
- 原始内容：稍有不同的是，多元回归场景中，增加变量会导致SSE减小，自然使得SSR增加，从而导致R2变大。也就是说，模型中增加一个自变量，哪怕这个自变量和因变量没有什么关系，也会使得R2变大，此时R2就无法客观反映模型的真实拟合效果了。由此，诞生了判定系数……调整后的R2包含了样本量n以及自变量个数k所带来的影响，但不会因自变量增多而产生变化。