知识卡片
排序模型从LR到深度
排序模型的主线是「怎么获得特征交叉」,四代模型各自解决上一代的一个瓶颈,又留下新问题。
| 模型 | 能力 | 边界 |
|---|---|---|
| LR | 可解释性强,权重即特征贡献 | 依赖人工组合特征,线性表达有限 |
| FM/FFM | 引入隐向量内积自动学二阶交叉,FFM 再按 field 区分 | 只能到二阶,更高阶交互仍要人工 |
| GBDT/GBDT+LR | 组合弱模型拟合残差,能挖高阶组合,有一定可解释性 | 对高维稀疏特征、时间序列处理差 |
| 深度模型 | 拟合任意函数、嵌入表征高维稀疏、自动组合特征 | 黑盒,解释成本高;负例响应与是否充分学习难判断 |
演进不是单纯「越深越好」。选择取决于三件事:特征稀疏度(稀疏高维更适合嵌入类模型)、时延预算(精排也要在几十毫秒内返回)、可解释要求(金融、医疗场景 LR 仍有价值)。深度模型的收益主要来自自动特征交叉与表征学习,但它把「为什么推荐」变成了需要额外解释模块的问题,这也是知识图谱被引入召回与排序的原因之一。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第7章 推荐系统框架及原理 · 查看原书依据
业界普遍认为的模型迭代是从早期的线性模型LR,到引入自动二阶交叉特征的FM和FFM,再到非线性树模型GBDT和GBDT+LR,然后到深度学习模型
参考来源
- 位置:《智能搜索和推荐系统:原理、算法与应用(零基础掌握搜索和推荐系统的原理、架构、算法) (智能系统与技术丛书)》第7章 推荐系统框架及原理(源文件:extracted/智能搜索和推荐系统:原理、算法与应用(零基础掌握搜索和推荐系统的原理、架构、算法) (智能系统与技术丛书)/_epub-src/text/part0101.html)
- 结论依据:原文给出 LR→FM/FFM→GBDT→深度模型的迭代顺序,并点明 FM 带来自动二阶交叉,支撑「每代补一个能力、又留一个边界」的判断。
- 原始内容:业界普遍认为的模型迭代是从早期的线性模型LR,到引入自动二阶交叉特征的FM和FFM,再到非线性树模型GBDT和GBDT+LR,然后到深度学习模型