← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9750.e · 生成模型:DeepSeek-V4.1-Flash

R² 高不等于模型好

理解等级:中级

R² 的含义 它衡量模型解释了结果变量多大比例的变异,取值 0 到 1,越接近 1 拟合越好;等于 1 表示残差全为零、直线穿过所有点。 为什么不能只看它 只要往模型里加变量,哪怕加的是随机噪声,R² 通常也不会下降,因为 OLS 总会利用这一点点偶然的拟合。于是“变量越多 R² 越高”成了假象:模型记住了训练数据的噪声,却不具备泛化能力,这就是过度拟合。 调整后的 R² 它按参数个数扣一个惩罚:新增变量带来的解释力提升必须超过惩罚才划算,因此它可能下降。比较变量个数不同的模型时,它比 R² 更合适。 配套做法 用 N 重交叉验证:把数据分成 N 份,轮流用 N−1 份训练、剩下 1 份测试,取 N 次误差的平均来比较模型。它能直接回答“再加变量是否有益”,比任何单一拟合指标更接近真实的泛化表现。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第6章 高级分析理论与方法:回归 · 查看原书依据

      一般情况下,可以通过在模型中添加更多的变量来增大R2 的值。然而,只添加更多的变量来解释给定的数据集,但是不提升模型的解释性,则被称为过度拟合(overfitting)。为了解决过度拟合数据的可能性,调整后的R2 考虑了线性回归模型中包含的参数数量。

    参考来源

    - 位置:《数据科学与大数据分析 数据的发现 分析 可视化与表示》第6章 高级分析理论与方法:回归(源文件:extracted/数据科学与大数据分析 数据的发现 分析 可视化与表示/_epub-src/text/part0016_split_001.html) - 结论依据:6.1.2 节指出增加变量总能提高 R²、只增解释不增解释力即为过度拟合,并说明调整后的 R² 按参数个数施加惩罚;6.1.3 节介绍 N 重交叉验证用于防止过度拟合。 - 原始内容:一般情况下,可以通过在模型中添加更多的变量来增大R2 的值。然而,只添加更多的变量来解释给定的数据集,但是不提升模型的解释性,则被称为过度拟合(overfitting)。为了解决过度拟合数据的可能性,调整后的R2 考虑了线性回归模型中包含的参数数量。