知识卡片
微调要防过拟合与脏数据
微调的目标是让模型适应特定数据集,但适应过头就成了过拟合:在微调数据上困惑度很低、生成流畅,换一批新数据却明显变差。原因是模型记住了这批样本的表面模式,而没有学到可迁移的规律。判断信号是训练指标持续下降、验证表现却停滞或回升。
书中给出的对策分三层。第一层是控制更新强度,用较低的学习率、配合 [[学习率调度让困惑度平稳下降]] 的衰减策略,避免后期大幅改动参数;第二层是加约束,采用正则化技术如权重衰减,惩罚过大的参数;第三层是改数据,增加数据集的多样性或做数据增强,让模型见到更多变化而非反复记忆同一批样本。
数据本身的质量同样直接作用于指标。噪声多、语言不一致、语义含混的语料会让模型学到错误的模式,困惑度被推高且难以降下来;因此训练前应清洗数据,保证语言一致性与语义清晰度。这也说明 [[困惑度低不等于文本质量高]] 的反面同样成立:困惑度高未必是模型不行,也可能是数据本身难以预测。调优时先查数据、再调超参数,通常比盲目加轮次更有效。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- GPT模型文本生成核心原理与实现 · 查看原书依据
微调时,应关注模型是否过拟合到特定的数据集。过拟合会导致模型在特定数据集上表现良好,但在新数据上表现不佳。为了防止过拟合,可使用较低的学习率,或采取正则化技术(如权重衰减)。
参考来源
- 位置:《从零构建大模型:算法、训练与微调》第2章《GPT模型文本生成核心原理与实现》(源文件:extracted/从零构建大模型:算法、训练与微调/_epub-src/EPUB/xhtml/chapter006_0003.xhtml)
- 结论依据:原文指出过拟合表现为"在特定数据集上表现良好,但在新数据上表现不佳",建议用较低学习率、权重衰减、增加数据多样性来缓解,并强调数据清洗对困惑度的影响。
- 原始内容:微调时,应关注模型是否过拟合到特定的数据集。过拟合会导致模型在特定数据集上表现良好,但在新数据上表现不佳。为了防止过拟合,可使用较低的学习率,或采取正则化技术(如权重衰减)。