← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9547.j · 生成模型:DeepSeek-V4.1-Flash

微调要防过拟合与脏数据

理解等级:中级

微调的目标是让模型适应特定数据集,但适应过头就成了过拟合:在微调数据上困惑度很低、生成流畅,换一批新数据却明显变差。原因是模型记住了这批样本的表面模式,而没有学到可迁移的规律。判断信号是训练指标持续下降、验证表现却停滞或回升。

书中给出的对策分三层。第一层是控制更新强度,用较低的学习率、配合 [[学习率调度让困惑度平稳下降]] 的衰减策略,避免后期大幅改动参数;第二层是加约束,采用正则化技术如权重衰减,惩罚过大的参数;第三层是改数据,增加数据集的多样性或做数据增强,让模型见到更多变化而非反复记忆同一批样本。

数据本身的质量同样直接作用于指标。噪声多、语言不一致、语义含混的语料会让模型学到错误的模式,困惑度被推高且难以降下来;因此训练前应清洗数据,保证语言一致性与语义清晰度。这也说明 [[困惑度低不等于文本质量高]] 的反面同样成立:困惑度高未必是模型不行,也可能是数据本身难以预测。调优时先查数据、再调超参数,通常比盲目加轮次更有效。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • GPT模型文本生成核心原理与实现 · 查看原书依据

      微调时,应关注模型是否过拟合到特定的数据集。过拟合会导致模型在特定数据集上表现良好,但在新数据上表现不佳。为了防止过拟合,可使用较低的学习率,或采取正则化技术(如权重衰减)。

    参考来源

    - 位置:《从零构建大模型:算法、训练与微调》第2章《GPT模型文本生成核心原理与实现》(源文件:extracted/从零构建大模型:算法、训练与微调/_epub-src/EPUB/xhtml/chapter006_0003.xhtml) - 结论依据:原文指出过拟合表现为"在特定数据集上表现良好,但在新数据上表现不佳",建议用较低学习率、权重衰减、增加数据多样性来缓解,并强调数据清洗对困惑度的影响。 - 原始内容:微调时,应关注模型是否过拟合到特定的数据集。过拟合会导致模型在特定数据集上表现良好,但在新数据上表现不佳。为了防止过拟合,可使用较低的学习率,或采取正则化技术(如权重衰减)。