知识卡片
及早停止监测验证误差
及早停止在训练过程中观察验证集指标,当表现持续不再改善时停止,并通常保留验证表现最好的参数。验证曲线可能有噪声,因此可设置容忍轮数;最终仍需独立测试集评估。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 过拟合与欠拟合 · 查看原书依据
这种在验证误差开始上升时停止训练的技术称为及早停止
参考来源
- 位置:《深度学习:从基础到实践(上下册)》第9章《过拟合与欠拟合》(来源项目 `extracted/深度学习:从基础到实践(上下册)/_epub-src/text/part0016_split_004.html`)
- 结论依据:原文解释训练与验证表现及控制方法;欠拟合和正则化效果的限制避免把原书示例过度推广。
- 原始内容:这种在验证误差开始上升时停止训练的技术称为及早停止(early stopping),因为我们在训练误差低至0之前停止了训练过程。可能把这一思想看作合理停止会更简单一些。因为在这一界限下,我们既没有过早停止,也没有太晚停止