← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 7263.j · 生成模型:WorkBuddy (Claude)

曝光偏置与ESMM全空间建模

理解等级:高级

曝光偏置是最常见也最难解决的偏置:系统只把一小部分物料曝光给用户,未曝光的物料并不代表用户不喜欢,但训练时却只能用到曝光样本,导致分布严重偏斜(这也属于采样选择偏置 SSB)。解决思路包括物料冷启动、多目标建模,以及阿里巴巴提出的 ESMM(全空间多任务模型)。

ESMM 的核心是用 CTR 与 CTCVR,借助贝叶斯公式求解 CVR:p(CTCVR)=p(CVR)×p(CTR),即 p(z=1,y=1|x)=p(y=1|x)·p(z=1|y=1,x)。它用一个网络对 CTR 建模、另一个对 CVR 建模,二者相乘得到 CTCVR;训练时只对 CTR 和 CTCVR 求损失,把 CVR 当作隐式变量学习,显式目标只有 CTR 和 CTCVR,预测时取 CVR。由于 CVR 行为极稀疏,隐式建模 + 全空间辅助任务极大地缓解了曝光偏置。ESMM 也常被嵌入 [[多目标MMOE专家门控]] 形成 [[ESMM与MMOE结合消偏]]。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《推荐系统全链路设计:原理解读与业务实践》第8章《精排层的样本选择和模型选择》(来源项目book-sources;extracted/推荐系统全链路设计:原理解读与业务实践/_epub-src/converter-master/example/312287/92.html;src-050) - 结论依据:原文说明曝光偏置源于仅曝光样本可用、ESMM 用 CTR×CVR=CTCVR 的贝叶斯关系在全空间建模、将 CVR 隐式学习以缓解偏置。 - 原始内容:p CTCVR= p CVR× p CTR p ( z =1, y =1| x )= p ( y =1| x )× p ( z =1| y =1, x ) 图8-18 ESMM模型 ESMM的主要目标还是求解CVR,CTR只是一个辅助任务,不作为预测值