知识卡片

普通读书笔记卡 · 6540.g · 生成模型:GPT-6

正则化限制过拟合

理解等级:中级

正则化通过限制模型或改变训练过程,减少模型对训练样本偶然细节的适应。例如在损失中加入权重大小的惩罚,惩罚强度通常由超参数控制。强度过大可能欠拟合,实际效果依模型、尺度与数据而定,并不要求所有权重相等。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《深度学习:从基础到实践(上下册)》第9章《过拟合与欠拟合》(来源项目 `extracted/深度学习:从基础到实践(上下册)/_epub-src/text/part0016_split_005.html`) - 结论依据:原文解释训练与验证表现及控制方法;欠拟合和正则化效果的限制避免把原书示例过度推广。 - 原始内容:这些控制过拟合的技术统称正则化方法,或者简单地称为正则化。我们说过,计算机本身并不会知道它已经过拟合了:当我们要求它从训练数据中学习时,它会尽可能多地从中学习。它并不会知道自己何时跨越了“对输入数据的良好认知”和“过于详