知识卡片
特征工程模型化趋势
GBDT+LR最大的历史价值不在具体结构,而在推进了“特征工程模型化”这一趋势。在此之前,特征工程只有两条路:靠人工或半人工组合筛选,对工程师经验与精力要求高;靠改造目标函数、加交叉项增强模型,对模型设计能力要求高。GBDT+LR意味着特征工程可以完全交给一个独立模型,输入原始特征向量即可,不必再投入大量人工筛选和结构设计,实现真正的端到端训练。这一思想成为深度学习推荐模型的引子和核心:各种网络结构与Embedding层自动完成特征工程,本质上都是这条趋势的延续。由此看,GBDT+LR是从传统模型通向深度学习时代的关键桥梁。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第2章 前深度学习时代——推荐系统的进化之路 · 查看原书依据
GBDT+LR组合模型的提出,意味着特征工程可以完全交由一个独立的模型来完成,模型的输入可以是原始的特征向量,不必在特征工程上投入过多的人工筛选和模型设计的精力,实现真正的端到端(End to End)训练
参考来源
- 位置:《深度学习推荐系统》第2章 前深度学习时代——推荐系统的进化之路(源文件:extracted/深度学习推荐系统/_epub-src/text/part0006_split_006.html)
- 结论依据:原文对比GBDT+LR出现前的两种特征工程方法及其弊端,并明确指出深度学习用网络结构与Embedding层自动化特征工程是该趋势的延续。
- 原始内容:GBDT+LR组合模型的提出,意味着特征工程可以完全交由一个独立的模型来完成,模型的输入可以是原始的特征向量,不必在特征工程上投入过多的人工筛选和模型设计的精力,实现真正的端到端(End to End)训练