知识卡片
上下文感知评估模型MMOE
上下文感知的评估模型是生成式重排的”终审”环节:它对束搜索产出的 k 个候选序列再做一次预测,挑价值最高的序列推送。
结构上,输入是用户特征和物料特征;物料序列处理器用 LSTM 或 Transformer 建模序列上下文;最后输出层引入 MMOE(多门专家组合)结构,同时预测 CVR 和 CTR 两个目标,靠多任务共享提升泛化性。模型训练好后,对 Beam Search 得到的序列物料逐一预测序列价值,取最高者作为最终推送序列。
用途与区别:相比单纯用 MMR/DPP 这类规则式多样性打分,上下文感知模型把”整条序列”作为建模对象、并用 MMOE 兼顾多目标,更贴合”组合长期收益”的重排初衷。相关卡见 [[束搜索加速生成式重排]]、[[PRM个性化重排模型]]。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 重排层的设计与实现 10.2 模型重排 · 查看原书依据
最后的输出层引入MMOE(多门专家组合)结构,同时预测CVR和CTR,提高模型的泛化性
参考来源
- 位置:《推荐系统全链路设计:原理解读与业务实践》第10章《模型重排》(来源项目book-sources;extracted/推荐系统全链路设计:原理解读与业务实践/_epub-src/converter-master/example/312287/126.html;src-060)
- 结论依据:原文说明该模型对Beam Search得到的k个序列二次训练选最优,输入为用户与物料特征、序列处理器用LSTM/Transformer、输出层用MMOE同时预测CVR和CTR以提高泛化。
- 原始内容:最后的输出层引入MMOE(多门专家组合)结构,同时预测CVR和CTR,提高模型的泛化性