知识卡片
检索是逐层收窄的漏斗
线上检索并不对每个候选算一次完整相关性,而是分成三段。召回从各个分库读倒排、归并,得到万级候选;粗排用很便宜的模型(如 BM25 一类只吃词权与位置的计算)压到千级;精排再上更完整的特征:词权×位置、语义匹配、文档质量与时间因子。前两段都在单个索引库内完成,最后到高端排序才把各队列结果放在一起 rerank,加入质量、时效、多样性、权威、点击等子模型再取摘要返回。越往后候选越少、模型越贵,这个次序本身就是把昂贵计算留给少数文档的成本设计。反过来看,召回阶段漏掉的文档,后面模型再强也救不回来,所以召回与精排要分别看指标,不能用最终排序效果掩盖召回不足。
结构图:
flowchart TD
Q[用户Query] --> QA[Query分析]
QA --> R[召回:各分库倒排归并]
R --> C[粗排:简单模型压到千级]
C --> F[精排:词权位置+语义+质量]
F --> AR[高端排序:跨队列rerank]
AR --> AD[取摘要返回]
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第6章 搜索引擎是什么玩意儿 · 查看原书依据
总结一下,就是BS模块会进行召回、粗排和精排三个操作,越到后面返回的候选集合越少,计算模型也越复杂,到了AR模块就是rerank,包括不同维度的子排序模型调权和业务规则调权。
参考来源
- 位置:《文本上的算法——深入浅出自然语言处理》第6章 搜索引擎是什么玩意儿(源文件:extracted/文本上的算法——深入浅出自然语言处理/_epub-src/OEBPS/Text/00013.html)
- 结论依据:原文这一段直接给出本卡的核心判断:「总结一下,就是BS模块会进行召回、粗排和精排三个操作,越到后面返回的候选集合越少……」
- 原始内容:总结一下,就是BS模块会进行召回、粗排和精排三个操作,越到后面返回的候选集合越少,计算模型也越复杂,到了AR模块就是rerank,包括不同维度的子排序模型调权和业务规则调权。