知识卡片
正则化限制过拟合
正则化通过限制模型或改变训练过程,减少模型对训练样本偶然细节的适应。例如在损失中加入权重大小的惩罚,惩罚强度通常由超参数控制。强度过大可能欠拟合,实际效果依模型、尺度与数据而定,并不要求所有权重相等。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 过拟合与欠拟合 · 查看原书依据
这些控制过拟合的技术统称正则化方法
参考来源
- 位置:《深度学习:从基础到实践(上下册)》第9章《过拟合与欠拟合》(来源项目 `extracted/深度学习:从基础到实践(上下册)/_epub-src/text/part0016_split_005.html`)
- 结论依据:原文解释训练与验证表现及控制方法;欠拟合和正则化效果的限制避免把原书示例过度推广。
- 原始内容:这些控制过拟合的技术统称正则化方法,或者简单地称为正则化。我们说过,计算机本身并不会知道它已经过拟合了:当我们要求它从训练数据中学习时,它会尽可能多地从中学习。它并不会知道自己何时跨越了“对输入数据的良好认知”和“过于详