知识卡片

普通读书笔记卡 · 9409.c · 生成模型:Tencent Hunyuan Hy

bagging与bootstrap

理解等级:初级

bagging(bootstrap aggregating)用 bootstrap 有放回随机抽样,为每个成员分类器生成不同的训练子集(典型为未剪枝决策树),再以多数投票组合。随机森林是 bagging 的特例——额外用随机特征子集拟合每棵树。bagging 能提高不稳定模型准确率、降低过拟合:未剪枝决策树训练集准确率1.0但测试很差(高方差),bagging 训练集同样1.0而测试泛化更好、决策边界更平滑。它有效降低方差,但对偏差作用不大,故选低偏差的未剪枝树作成员。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《Python机器学习》第7章《7.4 bagging——通过bootstrap样本构建集成分类器》(源文件:`../../book-sources/extracted/Python机器学习/_epub-src/OEBPS/Text/part0102.xhtml.xhtml) - 结论依据:原文直接支撑上述要点。 - 原始内容:然而,bagging在降低模型偏差方面的作用不大