知识卡片
DeepFM的FM与DNN双路
DeepFM 借用 WDL 的框架,把宽度侧换成 FM、深度侧保留 DNN,让模型同时具备“低阶特征交叉”和“高阶非线性拟合”两种能力。它直接以同一份特征 Embedding 为输入:FM 侧计算一阶项与隐向量点积形式的二阶交叉,DNN 侧把 Embedding 拼接后送入多层神经网络,最后把两侧结果拼接并经 Sigmoid 输出。
与 [[Wide&Deep宽深混合结构]] 不同,DeepFM 的宽度侧(FM)是自动学交叉的,不依赖人工构造交叉特征;与 [[FM因子分解机稀疏交叉]] 相比,它多了一条 DNN 通路来补高阶交互。工业界实践中,DeepFM 这种“深度学习界的集成学习”形式在不少场景的指标上都优于树模型、单独的 DNN 或单独的 FM。
结构图:
flowchart LR
A[特征 Embedding] --> B[FM侧: 一阶 + 隐向量点积二阶交叉]
A --> C[DNN侧: 多层神经网络]
B --> D[拼接 + Sigmoid 输出]
C --> D
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 精排层的样本选择和模型选择 8.2 交叉模型 · 查看原书依据
图8-5 DeepFM结构 目前,从工业界的角度来说,DeepFM这种深度学习界的集成学习的形式有很不错的效果,在很多场景中,各方面的指标都优于树模型、单独的DNN和单独的FM模型
参考来源
- 位置:《推荐系统全链路设计:原理解读与业务实践》第8章《精排层的样本选择和模型选择》(来源项目book-sources;extracted/推荐系统全链路设计:原理解读与业务实践/_epub-src/converter-master/example/312287/89.html;src-049)
- 结论依据:原文说明 DeepFM 借用 WDL 框架,深度侧处理稠密特征、宽度侧引入 FM,结合 DNN 与 FM 双重拟合能力,并指出其工业效果优于树模型、单独 DNN 或单独 FM。
- 原始内容:图8-5 DeepFM结构 目前,从工业界的角度来说,DeepFM这种深度学习界的集成学习的形式有很不错的效果,在很多场景中,各方面的指标都优于树模型、单独的DNN和单独的FM模型