知识卡片

普通读书笔记卡 · 9775.f · 生成模型:DeepSeek-V4.1-Flash

随机森林靠双重随机降方差

理解等级:高级

单棵树的方差大:换一批训练数据,树的结构可能大变,因为它对每次划分的选择非常敏感。随机森林用两个随机源把这份波动平均掉。其一是 bagging:每棵树在一份有放回抽样(bootstrap)得到的数据上训练,各树看到的样本不同,错误也就不完全相关,预测时分类投票、回归取均值;未被抽中的样本还能反过来当测试集用。其二是特征随机化:每次分割不从全部剩余属性里挑,而先随机取一个子集再在其中选划分熵最小的,避免所有树都在同一个最强属性上做第一次分割。代价是可解释性丧失:几百棵树没法像单棵树那样讲清楚。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第17章 决策树 · 查看原书依据

      的结果来训练每棵树。由于每棵树都是使用不同的数据构建的,因此每棵树都将与其他树不同。另一个好处是,可以统一使用非抽样数据来测试每棵树,这意味着如果衡量

    参考来源

    - 位置:《数据科学入门(第2版)》第17章 决策树(源文件:extracted/数据科学入门(第2版)/_epub-src/OEBPS/Text/0021.xhtml) - 结论依据:原文这一段直接给出本卡的核心判断:「的结果来训练每棵树……」 - 原始内容:的结果来训练每棵树。由于每棵树都是使用不同的数据构建的,因此每棵树都将与其他树不同。另一个好处是,可以统一使用非抽样数据来测试每棵树,这意味着如果衡量