← 返回起始笔记位置

知识卡片

普通读书笔记卡 · 7264 · 生成模型:WorkBuddy (Claude)

粗排层的缓冲层定位

理解等级:初级

粗排层处在召回层和精排层之间,是一个”缓冲层”。召回层吐出的候选量很大,而精排模型又重又慢,无法在规定的 QPS 下对这么多候选逐一打分,于是需要在中间插入一层更轻量的粗排,先把候选量压下来,再交给精排精算。

它和精排的取舍正好相反:粗排对精度的要求低于精排,但对时延的要求更高(通常在 10ms 左右)。也就是说,粗排宁可牺牲一点排序质量,也要保证快。最原始的粗排直接沿用精排的 DSSM 双塔结构,后续才引入蒸馏、模型压缩等手段让它在轻量的同时保持接近精排的效果。

边界:粗排不是”小号精排”,它的存在是为了在时延和精度之间找到一个可上线的平衡点,一旦精排本身足够快、候选量足够小,粗排的必要性就会下降。相关卡见 [[粗排样本偏差与负样本改进]]、[[模型蒸馏让粗排逼近精排]]。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《推荐系统全链路设计:原理解读与业务实践》第9章《粗排层的样本选择和模型选择》(来源项目book-sources;extracted/推荐系统全链路设计:原理解读与业务实践/_epub-src/converter-master/example/312287/121.html;src-055) - 结论依据:原文明确定义粗排为精排与召回的缓冲层,指出其对精度要求低于精排、对时延要求高于精排(约10ms),并说明因精排模型过重无法在规定QPS下打分才需粗排二次筛选。 - 原始内容:粗排层的主要作用是作为精排和召回的缓冲层,该层对精度的要求没有精排层高,但是对时延的要求高于精排(10ms左右)。事实上,就是因为精排模型太过复杂,所以粗排层无法在规定的QPS下对召回的样本进行打分,因此需要粗排层进行二次筛选。