知识卡片

普通读书笔记卡 · 9632.e · 生成模型:DeepSeek-V4.1-Flash

模型偏差与估计偏差

理解等级:高级

图4—3 给出另一种几何读法,把误差拆成可分辨的两块。大圆圆心是真实值,半径代表总体方差,因此观测到的实现值落在圆内某点;黑色曲线及其右侧区域代表模型空间(所有可用的拟合函数)。曲线上离实现值最近的点是本次拟合结果,曲线上离真实值最近的点是「总体最优拟合」(closest fit in population),二者之差就是模型偏差:它来自模型空间本身不够宽,再多样本也补不回来。换一个实现值,拟合点沿曲线滑动,滑动范围即方差。若把模型空间再约束得更简约(浅色曲线),拟合点变成压缩估计,两个总体最优拟合之差称为估计偏差——这是人为简化带来的额外偏差;相应的方差圆变小。可见简化模型是用偏差换方差,均方误差准则下要在这笔交换里找平衡点。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第4章 模型评价与选择 · 查看原书依据

      这两个点(真实值与总体上的最优拟合)之间的差距就是模型偏差(model bias)。如果再有一个实现值,那么拟合模型会是黑色曲线上与这个实现值最近的点,因此拟合模型的方差用图中虚线大圆表示。

    参考来源

    - 位置:《大数据挖掘与统计机器学习》第4章 模型评价与选择(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter6_0001.xhtml,4.1.2 偏差-方差分解) - 结论依据:原文定义模型偏差为真实值与总体最优拟合之差,又称两个模型空间上总体最优拟合之差为估计偏差,并指出模型简单后偏差增大、方差减小。 - 原始内容:这两个点(真实值与总体上的最优拟合)之间的差距就是模型偏差(model bias)。如果再有一个实现值,那么拟合模型会是黑色曲线上与这个实现值最近的点,因此拟合模型的方差用图中虚线大圆表示。