知识卡片

普通读书笔记卡 · 9546.a · 生成模型:DeepSeek-V4.1-Flash

教师强制用真实标签喂解码器

理解等级:中级

解码器在每一步都需要一个输入:要么是它自己上一步预测出的词,要么是训练数据里该位置的真实词。把真实目标序列直接喂进去,就是教师强制(Teacher Forcing)。

它的作用在训练早期最明显。模型参数还随机时,自己预测的词几乎全错,若把这些错误输出当作下一步输入,误差会沿时间步一层层累积,梯度信号被噪声淹没,收敛很慢;改用真实标签,每一步的输入分布都贴近真实数据,模型只需学好”给定正确前缀,下一个词是什么”,训练更快也更稳。这与 [[编码器读全句,解码器逐词生成]] 中描述的逐步解码是配套的。

代价出现在推理阶段。真实生成时没有任何标准答案,模型只能吃自己的输出,训练时的输入分布与推理时的输入分布并不一致;一旦前面某步选错,错误会被后续步骤继续当作上下文,偏差可能放大。所以教师强制是一种训练期的加速手段,而不是推理期的行为,理解这一点才能解释”训练损失很低但自由生成跑偏”的现象。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • Transformer模型基础 · 查看原书依据

      (3)教师强制(Teacher Forcing):为提高训练效率,解码器可在训练时选择使用真实的目标序列而非上一时间步的预测结果作为下一时间步的输入。

    参考来源

    - 位置:《从零构建大模型:算法、训练与微调》第1章《Transformer模型基础》(源文件:extracted/从零构建大模型:算法、训练与微调/_epub-src/EPUB/xhtml/chapter005_0001.xhtml) - 结论依据:原文把教师强制定义为"训练时选择使用真实的目标序列而非上一时间步的预测结果作为下一时间步的输入",并说明其目的是"提高训练效率",本卡据此展开训练与推理输入不一致的代价。 - 原始内容:(3)教师强制(Teacher Forcing):为提高训练效率,解码器可在训练时选择使用真实的目标序列而非上一时间步的预测结果作为下一时间步的输入。