知识卡片
bagging与bootstrap
bagging(bootstrap aggregating)用 bootstrap 有放回随机抽样,为每个成员分类器生成不同的训练子集(典型为未剪枝决策树),再以多数投票组合。随机森林是 bagging 的特例——额外用随机特征子集拟合每棵树。bagging 能提高不稳定模型准确率、降低过拟合:未剪枝决策树训练集准确率1.0但测试很差(高方差),bagging 训练集同样1.0而测试泛化更好、决策边界更平滑。它有效降低方差,但对偏差作用不大,故选低偏差的未剪枝树作成员。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 集成学习——组合不同的模型 · 查看原书依据
然而,bagging在降低模型偏差方面的作用不大
参考来源
- 位置:《Python机器学习》第7章《7.4 bagging——通过bootstrap样本构建集成分类器》(源文件:`../../book-sources/extracted/Python机器学习/_epub-src/OEBPS/Text/part0102.xhtml.xhtml)
- 结论依据:原文直接支撑上述要点。
- 原始内容:然而,bagging在降低模型偏差方面的作用不大