知识卡片
Stacking集成流程
Stacking 利用交叉验证生成“新特征”:对每个基础模型做 K 折交叉验证,每折用训练集 4⁄5 训练、对留出 1⁄5 验证集预测;K 次验证集预测拼起来就是完整训练集的一个新特征,K 次测试集预测取平均作为测试集的一个新特征。多个基础模型重复后即得到新训练/测试集(特征数=基础模型数),最后用一个元模型在新训练集上训练、新测试集上预测。基础模型强弱比常取 2:1。
flowchart TD
A[基础模型1..N 分别做K折交叉验证] --> B[每折: 4/5训练, 1/5验证集预测]
B --> C[K个验证集预测拼成新训练特征]
B --> D[K个测试集预测平均成新测试特征]
C --> E[新训练集: 每个基础模型1个特征]
D --> F[新测试集: 每个基础模型1个特征]
E --> G[元模型在新训练集上训练]
F --> H[元模型在新测试集上预测最终输出]
G --> H
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 机器学习模型调参 5.6 利用集成学习提高推荐效果 · 查看原书依据
3.Stacking Stacking是集成学习的一种,它本身还是多个模型的集成,其充分利用了交叉验证的特性,将多个模型的预测结果作为特征,然后用一个模型去预测最后的结果
参考来源
- 位置:《推荐系统全链路设计:原理解读与业务实践》第5章《机器学习模型调参》(来源项目book-sources;extracted/推荐系统全链路设计:原理解读与业务实践/_epub-src/converter-master/example/312287/54.html;src-035)
- 结论依据:原文逐步描述 Stacking 的交叉验证预测拼接为新特征、再训练元模型的过程与 2:1 基础模型比例,直接支撑本卡流程图与说明。
- 原始内容:3.Stacking Stacking是集成学习的一种,它本身还是多个模型的集成,其充分利用了交叉验证的特性,将多个模型的预测结果作为特征,然后用一个模型去预测最后的结果