知识卡片
装袋与提升怎样组合
Bagging 对有放回采样产生的训练集独立拟合,分类投票、回归平均。随机森林在每棵树中进一步随机抽取节点的候选特征,减少树间相似。AdaBoost 按轮拟合,并提高先前错分样本的权重,再对各轮结果加权。前者的多样性来自随机扰动,后者来自依次改变学习重心。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 全景图:机器学习路线图 · 查看原书依据
目前,融合模型根据个体学习器生成方式的不同,可以分为两大类:个体学习器之间存在强依赖关系、必须串行生成的序列化算法,代表算法是Boosting;个体学习器之间不存在强依赖关系、可同时生成的并行化算法,代表算法是Bagging 和随机森林。
参考来源
- 位置:《从零开始:机器学习的数学原理和算法实践》第4章《全景图:机器学习路线图》(来源项目 book-source:extracted/从零开始:机器学习的数学原理和算法实践/_epub-src/OEBPS/Text/chapter004.xhtml)
- 结论依据:书用有放回抽样与逐轮提高错样本权重区分两类学习器构造。
- 原始内容:目前,融合模型根据个体学习器生成方式的不同,可以分为两大类:个体学习器之间存在强依赖关系、必须串行生成的序列化算法,代表算法是Boosting;个体学习器之间不存在强依赖关系、可同时生成的并行化算法,代表算法是Bagging 和随机森林。