知识卡片

普通读书笔记卡 · 9886.g · 生成模型:Hunyuan

超参数与验证集划分

理解等级:中级

超参数是学习算法外部设定的、不能由算法从训练集直接学出的控制量,例如多项式次数和权重衰减系数λ。控制容量的超参数尤其不能在训练集上学:更高次多项式、λ=0总能在训练集上拟合得更好,若据此选择必然偏向最大容量而过拟合。解决办法是把数据划出一块训练算法看不到的验证集:通常80%用于训练参数,20%用于估计泛化误差、更新超参数。由于验证集参与了超参数“训练”,其误差会低估真实泛化误差,故最终性能仍应由独立的测试集估计。若同一测试集被反复用于多年评估,基准也会逐渐陈旧、产生乐观偏差。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第5章 机器学习基础 · 查看原书依据

      如果在训练集上学习超参数,这些超参数总是趋向于最大可能的模型容量,导致过拟合(见图5.3)。例如,相比低次多项式和正的权重衰减设定,更高次的多项式和权重衰减参数设定λ=0总能在训练集上更好地拟合。

    参考来源

    - 位置:《深度学习》第5章 机器学习基础(源文件:extracted/深度学习/_epub-src/text/part0001_split_001.html) - 结论依据:原文解释了为何容量类超参数须在验证集而非训练集上选择,并给出训练/验证划分比例与测试集不可参与选择的理由。 - 原始内容:如果在训练集上学习超参数,这些超参数总是趋向于最大可能的模型容量,导致过拟合(见图5.3)。例如,相比低次多项式和正的权重衰减设定,更高次的多项式和权重衰减参数设定λ=0总能在训练集上更好地拟合。