知识卡片
传统推荐模型演化全景
前深度学习时代的模型并非彼此孤立,而是沿四条主线演化:协同过滤族从UserCF、ItemCF走向矩阵分解,逻辑回归族走向LS-PLM,因子分解机族从FM走向FFM,以及融合多模型的GBDT+LR组合。协同过滤只用交互信息、泛化弱,矩阵分解用隐向量缓解稀疏;逻辑回归能融合多特征却不会交叉,FM/FFM补上交叉能力,GBDT+LR则把特征工程交给模型完成。这三条线分别埋下隐向量、特征交叉、特征工程模型化的种子,直接通向深度学习推荐模型。理解这张图的关键在于:新模型不是凭空出现,而是对前序模型缺陷的针对性修补。
结构图:
flowchart LR
CF[协同过滤] --> MF[矩阵分解]
CF --> ItemCF[ItemCF]
CF --> UserCF[UserCF]
MF --> Emb[隐向量Embedding]
LR[逻辑回归] --> MLR[LSPLM分片回归]
LR --> FM[因子分解机FM]
FM --> FFM[域感知FFM]
GBDTLR[GBDT加LR组合] --> FE[特征工程模型化]
Emb --> DL[深度学习推荐模型]
MLR --> DL
FFM --> DL
FE --> DL
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第2章 前深度学习时代——推荐系统的进化之路 · 查看原书依据
2006年,矩阵分解的技术成功应用在推荐系统领域,其隐向量的思想与深度学习中Embedding技术的思路一脉相承;2010年,FM被提出,特征交叉的概念被引入推荐模型,其核心思想——特征交叉的思路也将在深度学习模型中被发扬光大;2012年,LS-PLM在阿里巴巴大规模应用,其结构已经非常接近三层神经网络
参考来源
- 位置:《深度学习推荐系统》第2章 前深度学习时代——推荐系统的进化之路(源文件:extracted/深度学习推荐系统/_epub-src/text/part0006_split_008.html)
- 结论依据:原文以演化关系图作为全章索引,并在总结部分按2006至2014年的时间线点明矩阵分解、FM、LS-PLM、GBDT+LR与深度学习的承接关系。
- 原始内容:2006年,矩阵分解的技术成功应用在推荐系统领域,其隐向量的思想与深度学习中Embedding技术的思路一脉相承;2010年,FM被提出,特征交叉的概念被引入推荐模型,其核心思想——特征交叉的思路也将在深度学习模型中被发扬光大;2012年,LS-PLM在阿里巴巴大规模应用,其结构已经非常接近三层神经网络