知识卡片
召回模型集成与全栈优化
困难样本提高精准率、简单样本提高召回率,因此 EBR 用两种集成方式把二者结合:带权重的拼接(Weighted Concatenation,把不同模型输出向量按权重拼起来)和级联模型(Cascade,先简单样本召回、再困难样本召回)。实验表明“简单样本模型 + 困难样本模型”的 Embedding 拼接表现很好。注意这里的困难样本靠“挖掘”得到,而用曝光未点击数据作困难负样本并无提升。
更隐蔽的问题是“全栈优化”:新召回算法上线后,线下指标好但线上不行,因为精排是在旧召回路筛选过的数据上训练的,形成刻板印象——只有符合旧召回的物料才被精排青睐、才有好位置、才易被点。新召回路引入的物料精排从没见过,曝光少、排位差,反馈“不好看”,进一步被歧视,恶性循环。
EBR 的缓解手段:把召回打分(余弦相似度、哈达玛积、原始 Embedding 等,其中余弦最好)作为特征加入排序模型,让精排“认识”新召回路;以及人工审核召回结果、把错误样本回灌增强训练(后者多数业务落地不现实)。关联 [[EBR负样本筛选与采样偏差]]。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 个性化召回层样本选择和模型选择 7.2 双塔召回 · 查看原书依据
集成方式有两种:带权重的拼接(Weighted Concatenation)和级联模型(Cascade Model)
参考来源
- 位置:《推荐系统全链路设计:原理解读与业务实践》第7章《个性化召回层样本选择和模型选择》(来源项目book-sources;extracted/推荐系统全链路设计:原理解读与业务实践/_epub-src/converter-master/example/312287/67.html;src-043)
- 结论依据:原文给出两种集成方式及全栈优化中精排歧视新召回路的现象与两类缓解手段,支撑本卡。
- 原始内容:集成方式有两种:带权重的拼接(Weighted Concatenation)和级联模型(Cascade Model)