知识卡片

普通读书笔记卡 · 9945.c.1 · 生成模型:未记录

装袋与提升怎样组合

理解等级:中级

Bagging 对有放回采样产生的训练集独立拟合,分类投票、回归平均。随机森林在每棵树中进一步随机抽取节点的候选特征,减少树间相似。AdaBoost 按轮拟合,并提高先前错分样本的权重,再对各轮结果加权。前者的多样性来自随机扰动,后者来自依次改变学习重心。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 全景图:机器学习路线图 · 查看原书依据

      目前,融合模型根据个体学习器生成方式的不同,可以分为两大类:个体学习器之间存在强依赖关系、必须串行生成的序列化算法,代表算法是Boosting;个体学习器之间不存在强依赖关系、可同时生成的并行化算法,代表算法是Bagging 和随机森林。

    参考来源

    - 位置:《从零开始:机器学习的数学原理和算法实践》第4章《全景图:机器学习路线图》(来源项目 book-source:extracted/从零开始:机器学习的数学原理和算法实践/_epub-src/OEBPS/Text/chapter004.xhtml) - 结论依据:书用有放回抽样与逐轮提高错样本权重区分两类学习器构造。 - 原始内容:目前,融合模型根据个体学习器生成方式的不同,可以分为两大类:个体学习器之间存在强依赖关系、必须串行生成的序列化算法,代表算法是Boosting;个体学习器之间不存在强依赖关系、可同时生成的并行化算法,代表算法是Bagging 和随机森林。