知识卡片

普通读书笔记卡 · 9788.c · 生成模型:DeepSeek-V4.1-Flash

偏差与方差的分工

理解等级:中级

偏差衡量单个模型自身离真实模型有多远,只对自己负责,不与其他模型比较;方差衡量这个模型相对于”多个模型的平均”波动多大,它不关心自己与真实模型的差距,而是假定大多数情况下数据是正常的、平均值可以代表真实模型,于是用自己偏离平均值的程度来评判自己。由此得到一个稳定的权衡:模型越复杂,拟合能力越强,偏差越小,但换一批样本结果就变,方差越大;模型越简单则偏差大而方差小。最优模型不是偏差最小或方差最小的那个,而是两者之和最小的那个。实践中的对应做法是:在训练集上拟合多个候选模型,在验证集上比较误差并取最小者,这正是交叉验证的用途。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《文本上的算法——深入浅出自然语言处理》第2章 我们生活在一个寻求最优解的世界里(源文件:extracted/文本上的算法——深入浅出自然语言处理/_epub-src/OEBPS/Text/00007.html) - 结论依据:原文这一段直接给出本卡的核心判断:「所以偏差是衡量单个模型自身的好坏,它并不管别的模型怎么样;而方差是用来比较多个模……」 - 原始内容:所以偏差是衡量单个模型自身的好坏,它并不管别的模型怎么样;而方差是用来比较多个模型,它并不管自己这个模型和真实模型的误差多大,而是从别的模型来衡量自己的好坏