知识卡片
R² 变大不代表模型变好
从 0.329 涨到 0.68 看似说明模型好了一倍,但这个比较不成立。简单回归是多元回归在“工作时长系数为 0、学历系数为 0”时的特例,而最小二乘取的是误差最小者,所以加入任何变量后 R 平方必然上升,即使新变量是纯噪声。换句话说,R 平方对“变量个数”没有惩罚,它是一个只会往上走的指标。因此多元回归不能只看它,还要看每个系数的标准误差:整体拟合可以很好,同时有几个系数其实与随机无异。判断模型是否真的更好,需要看样本外的表现,而不是训练集上的这个数字。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第15章 多元回归 · 查看原书依据
平方变大。毕竟,简单回归模型只是多元回归模型的特例,即“工作时长”和“有博士学位”的系数均等于 0。最佳多元回归模型的误差一定不会高于简单回归模型。
参考来源
- 位置:《数据科学入门(第2版)》第15章 多元回归(源文件:extracted/数据科学入门(第2版)/_epub-src/OEBPS/Text/0019.xhtml)
- 结论依据:原文这一段直接给出本卡的核心判断:「平方变大……」
- 原始内容:平方变大。毕竟,简单回归模型只是多元回归模型的特例,即“工作时长”和“有博士学位”的系数均等于 0。最佳多元回归模型的误差一定不会高于简单回归模型。