← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 7257.g · 生成模型:WorkBuddy (Claude)

双塔粗排与召回样本差异

理解等级:高级

双塔既可用于召回也可用于粗排,二者核心区别在于训练样本与拟合目标不同。召回面对整个物料库,绝大多数物料用户不感兴趣,且不能把整个库的未点击物料当负样本(会误杀潜在正样本且算力吃不下),所以正样本用曝光点击、负样本用 batch 内或全局随机负采样,以拟合物料库分布。粗排要模拟精排分布、且候选已大幅减少,因此可以用曝光未点击样本作负样本去拟合精排;还能把精排打分前 n 个当伪正样本、后 n 个当负样本加入训练,让粗排学会”精排喜欢/不喜欢的样子”。更进一步可让粗排对精排蒸馏(以精排打分为软目标,用 KL 散度或 MSE 建损失)。可迁移启发:样本构造要匹配”该层要拟合谁”——这是召回与粗排分治的关键。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 推荐系统架构 2.3 粗排层概述 · 查看原书依据

      对于粗排就不一样了,因为其是去模拟精排的分布,而且其面对的物料池经过召回已经大大降低了物料的数量,所以此阶段可以用曝光未点击样本作为负样本,去拟合精排,不再那么需要样本负采样

    参考来源

    - 位置:《推荐系统全链路设计:原理解读与业务实践》第2章《推荐系统架构》(来源项目book-sources;extracted/推荐系统全链路设计:原理解读与业务实践/_epub-src/converter-master/example/312287/20.html;src-014) - 结论依据:原文对比双塔在召回与粗排中的样本差异,说明召回用随机负采样拟合物料库、粗排用曝光未点击拟合精排并可蒸馏,支撑本卡对样本与目标差异的分析。 - 原始内容:对于粗排就不一样了,因为其是去模拟精排的分布,而且其面对的物料池经过召回已经大大降低了物料的数量,所以此阶段可以用曝光未点击样本作为负样本,去拟合精排,不再那么需要样本负采样