知识卡片

普通读书笔记卡 · 9553.i · 生成模型:DeepSeek-V4.1-Flash

GAN交替训练的顺序约束

理解等级:高级

交替训练的关键是”冻结”。每个训练周期内,先固定生成器参数,只更新判别器,让它学会分辨当前生成器产出的样本;再固定判别器参数,只更新生成器,让它针对这个固定的判别器调整输出。若同时更新两者,判别器的判断标准与生成器的优化目标会在同一时刻移动,梯度指向的目标不断漂移,训练容易震荡。

实现上是在各自阶段设置参数的梯度开关,并只把对应网络的参数交给优化器——冻结不是把参数置零,而是不让梯度落到它上面。

顺序也有影响:先更新判别器,生成器拿到的是最新判别器的梯度,压力更大;先更新生成器,判别器要面对已经变化的样本分布。原文采用的顺序是先判别器后生成器,且每个周期各更新一次,使两者频率大致对等。

频率失衡会打破博弈平衡——判别器更新太快,生成器的梯度会饱和;生成器更新太快,判别器追不上分布变化。因此”每步都更新”并不等于”训练得更充分”。参见 [[GAN的生成与判别博弈]]。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 对比学习与对抗训练 · 查看原书依据

      在GAN模型中,交替训练是生成器与判别器相互对抗的核心策略。在每个训练周期内,先固定生成器参数,更新判别器,使其能够分辨真实样本和生成样本;随后固定判别器参数,更新生成器,使其生成的样本能够“欺骗”判别器。

    参考来源

    - 位置:《从零构建大模型:算法、训练与微调》第8章《对比学习与对抗训练》(源文件:extracted/从零构建大模型:算法、训练与微调/_epub-src/EPUB/xhtml/chapter012_0003.xhtml) - 结论依据:原文明确交替训练先固定生成器更新判别器、再固定判别器更新生成器,通过这一交替流程双方能力同时提升。 - 原始内容:在GAN模型中,交替训练是生成器与判别器相互对抗的核心策略。在每个训练周期内,先固定生成器参数,更新判别器,使其能够分辨真实样本和生成样本;随后固定判别器参数,更新生成器,使其生成的样本能够“欺骗”判别器。