知识卡片
欠拟合与过拟合看误差差距
模型太简单时,训练和验证都可能误差高;复杂度增加后训练误差继续下降而验证恶化,是过拟合信号。选型需看同一评估协议下的泛化表现,不能由单次曲线保证无过拟合。按验证集挑次数之后,该集不再是最终独立测试集。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第6章 正则化:文本回归 避免过拟合的方法 · 连续片段1 · 查看原书依据
训练误差持续变小,而测试误差开始变大。模型对于任何它没见过的数据都没有泛化能力——这最终导致它过拟合。 幸运的是,从图中我们知道如何设置次数才能达到最好的效果。如果不使用交叉验证技术,我们将很难发现这个既不欠拟合又不过拟合的微妙的中间点。 在简单介绍了如何通过交叉验证来避免过拟合
参考来源
- 位置:《机器学习:实用案例解析》第06章《避免过拟合的方法 · 连续片段1》(来源项目book-sources;源文件:extracted/OReilly精品图书系列共21册(《Javascript权威指南》、《机器学习:实用案例解析》、《编写可读代码的艺术》、《算法精解》等)/_epub-src/text/part3108.html,spine3214)
- 结论依据:原文的案例步骤与解释支持所述机制;R包、外部API与数据接口限定于本书出版时环境,不作为当前兼容性承诺。
- 原始内容:训练误差持续变小,而测试误差开始变大。模型对于任何它没见过的数据都没有泛化能力——这最终导致它过拟合。 幸运的是,从图中我们知道如何设置次数才能达到最好的效果。如果不使用交叉验证技术,我们将很难发现这个既不欠拟合又不过拟合的微妙的中间点。 在简单介绍了如何通过交叉验证来避免过拟合