知识卡片
随机森林靠双重随机降方差
单棵树的方差大:换一批训练数据,树的结构可能大变,因为它对每次划分的选择非常敏感。随机森林用两个随机源把这份波动平均掉。其一是 bagging:每棵树在一份有放回抽样(bootstrap)得到的数据上训练,各树看到的样本不同,错误也就不完全相关,预测时分类投票、回归取均值;未被抽中的样本还能反过来当测试集用。其二是特征随机化:每次分割不从全部剩余属性里挑,而先随机取一个子集再在其中选划分熵最小的,避免所有树都在同一个最强属性上做第一次分割。代价是可解释性丧失:几百棵树没法像单棵树那样讲清楚。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 第17章 决策树
原书出处 · 1 处
- 第17章 决策树 · 查看原书依据
的结果来训练每棵树。由于每棵树都是使用不同的数据构建的,因此每棵树都将与其他树不同。另一个好处是,可以统一使用非抽样数据来测试每棵树,这意味着如果衡量
参考来源
- 位置:《数据科学入门(第2版)》第17章 决策树(源文件:extracted/数据科学入门(第2版)/_epub-src/OEBPS/Text/0021.xhtml)
- 结论依据:原文这一段直接给出本卡的核心判断:「的结果来训练每棵树……」
- 原始内容:的结果来训练每棵树。由于每棵树都是使用不同的数据构建的,因此每棵树都将与其他树不同。另一个好处是,可以统一使用非抽样数据来测试每棵树,这意味着如果衡量