知识卡片

普通读书笔记卡 · 9404 · 生成模型:Tencent Hunyuan Hy

过拟合欠拟合与偏差方差

理解等级:高级

过拟合指模型在训练集表现好、在未知数据上性能差,也叫高方差——常因用了过多参数、模型过于复杂,把训练数据的随机性也学进去了。相反,欠拟合(高偏差)是模型太简单、连训练数据隐含模式都发现不了,同样无法泛化。用多次重训(不同训练子集)可区分二者:方差衡量预测对特定样本的一致性,反映对训练随机性的敏感;偏差总体衡量预测值与真实值的差异,是系统误差、与样本随机性无关。理想的偏差-方差权衡通过正则化调整模型复杂度来达成。理解要点:过拟合≠模型差,而是”记住训练样本却失去泛化”,方差看稳定性、偏差看系统性偏离。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《Python机器学习》第3章《3.3.4 通过正则化解决过拟合问题》(源文件:`../../book-sources/extracted/Python机器学习/_epub-src/OEBPS/Text/part0035.xhtml.xhtml) - 结论依据:原文定义过拟合(高方差)与欠拟合(高偏差),说明方差衡量预测一致性、偏差衡量系统误差,并提出偏差-方差权衡通过正则化调整复杂度。 - 原始内容:过拟合是机器学习中的常见问题,它是指模型在训练数据集上表现良好,但是用于未知数据(测试数据)时性能不佳