知识卡片
GAN交替训练的顺序约束
交替训练的关键是”冻结”。每个训练周期内,先固定生成器参数,只更新判别器,让它学会分辨当前生成器产出的样本;再固定判别器参数,只更新生成器,让它针对这个固定的判别器调整输出。若同时更新两者,判别器的判断标准与生成器的优化目标会在同一时刻移动,梯度指向的目标不断漂移,训练容易震荡。
实现上是在各自阶段设置参数的梯度开关,并只把对应网络的参数交给优化器——冻结不是把参数置零,而是不让梯度落到它上面。
顺序也有影响:先更新判别器,生成器拿到的是最新判别器的梯度,压力更大;先更新生成器,判别器要面对已经变化的样本分布。原文采用的顺序是先判别器后生成器,且每个周期各更新一次,使两者频率大致对等。
频率失衡会打破博弈平衡——判别器更新太快,生成器的梯度会饱和;生成器更新太快,判别器追不上分布变化。因此”每步都更新”并不等于”训练得更充分”。参见 [[GAN的生成与判别博弈]]。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 对比学习与对抗训练 · 查看原书依据
在GAN模型中,交替训练是生成器与判别器相互对抗的核心策略。在每个训练周期内,先固定生成器参数,更新判别器,使其能够分辨真实样本和生成样本;随后固定判别器参数,更新生成器,使其生成的样本能够“欺骗”判别器。
参考来源
- 位置:《从零构建大模型:算法、训练与微调》第8章《对比学习与对抗训练》(源文件:extracted/从零构建大模型:算法、训练与微调/_epub-src/EPUB/xhtml/chapter012_0003.xhtml)
- 结论依据:原文明确交替训练先固定生成器更新判别器、再固定判别器更新生成器,通过这一交替流程双方能力同时提升。
- 原始内容:在GAN模型中,交替训练是生成器与判别器相互对抗的核心策略。在每个训练周期内,先固定生成器参数,更新判别器,使其能够分辨真实样本和生成样本;随后固定判别器参数,更新生成器,使其生成的样本能够“欺骗”判别器。