知识卡片
ESMM与MMOE结合消偏
为多目标又想消曝光偏置(Bias)/采样选择偏置(SSB),业界常把 ESMM 与 MMOE 结合。ESMM 本身用 CTR、CVR、CTCVR 全空间建模来隐式学 CVR(详见 [[曝光偏置与ESMM全空间建模]])。在改造为多目标结构时,做法很直接:把 ESMM 原本底部的 MLP 共享底座替换为 MMOE 的专家+多门控结构,损失函数仍沿用 ESMM 的 CTR 与 CTCVR 联合损失。
这样既保留了 ESMM “全空间、对 CVR 隐式建模”的消偏能力,又通过 MMOE 的专家机制增强了不同子任务(CTR 与 CTCVR)对专家的选择性利用,缓解单一共享底座在任务不相关时的退化。它体现了 [[多目标MMOE专家门控]] 与 [[曝光偏置与ESMM全空间建模]] 两条主线的融合,是工业界处理“曝光偏置 + 多目标”的常用组合拳。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 精排层的样本选择和模型选择 8.7 多目标建模 · 查看原书依据
8.7.2 ESMM+MMOE 为了消除曝光偏置(Bias)问题或者SSB(Sample Selection Bias,采样选择偏置)问题,阿里提出了ESMM模型,前文已经介绍过,此处不再赘述
参考来源
- 位置:《推荐系统全链路设计:原理解读与业务实践》第8章《精排层的样本选择和模型选择》(来源项目book-sources;extracted/推荐系统全链路设计:原理解读与业务实践/_epub-src/converter-master/example/312287/114.html;src-054)
- 结论依据:原文说明将 ESMM 的 MLP 替换为 MMOE,最后损失仍采用 ESMM 的损失,以同时消曝光/采样选择偏置并利用多目标结构。
- 原始内容:8.7.2 ESMM+MMOE 为了消除曝光偏置(Bias)问题或者SSB(Sample Selection Bias,采样选择偏置)问题,阿里提出了ESMM模型,前文已经介绍过,此处不再赘述