← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 7263.ae · 生成模型:WorkBuddy (Claude)

多目标损失跷跷板优化

理解等级:高级

多目标训练常出现“跷跷板现象”(帕累托现象):初期两目标指标同步上升,随后此升彼降、相互波动。原文给出五种损失优化思路:

  1. 超参法:给每个损失设超参加权平均,简单但粗糙;
  2. 方差法:用各损失方差作权重,认为波动大=难学,应多关注;
  3. 损失自主法:直接用损失值本身作权重,任务越难损失越大、越该关注,比方差法更精细;
  4. 帕累托优化:用类 KKT 条件最小化各任务梯度方向组合以达全局最优,再反推最优损失权重;
  5. 梯度手术法(Gradient Surgery):针对多任务梯度的三类问题(方向不同致跷跷板、某梯度过大主导、曲率大处改进被高估),把任务梯度视为向量,若两任务梯度负相关则按投影原理纠偏,使所有梯度同向前进、逼近全局最优。

这些方法从“调权重”到“调梯度方向”层层进阶,是 [[多目标MMOE专家门控]] 等结构之外保证多任务协同收敛的关键手段。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 精排层的样本选择和模型选择 8.7 多目标建模 · 查看原书依据

      表8-2 多目标模型的优缺点 图8-48 PLE模型 8.7.6 多目标模型的损失优化 多目标在训练的过程中经常产生的问题便是“跷跷板现象”(即帕累托现象,如图8-49所示),即模型训练过程中,一开始两个目标的优化指标都在提高,随后两个目标的优化指标交互波动(一个目标的优化指标提

    参考来源

    - 位置:《推荐系统全链路设计:原理解读与业务实践》第8章《精排层的样本选择和模型选择》(来源项目book-sources;extracted/推荐系统全链路设计:原理解读与业务实践/_epub-src/converter-master/example/312287/114.html;src-054) - 结论依据:原文列出跷跷板现象并给出超参法、方差法、损失自主法、帕累托优化、梯度手术法五种,尤其是梯度手术以投影纠偏负相关梯度使所有任务同向。 - 原始内容:表8-2 多目标模型的优缺点 图8-48 PLE模型 8.7.6 多目标模型的损失优化 多目标在训练的过程中经常产生的问题便是“跷跷板现象”(即帕累托现象,如图8-49所示),即模型训练过程中,一开始两个目标的优化指标都在提高,随后两个目标的优化指标交互波动(一个目标的优化指标提