知识卡片
极端随机树随机选择切分
极端随机树在构建树时引入额外的随机性,例如对候选特征随机选择切分阈值,再比较候选划分。随机化可能降低模型之间的相关性和过拟合,也可能增加单棵树的偏差;结果依赖数据和实现。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 集成算法 · 查看原书依据
不为每个特征分配最佳分割节点
参考来源
- 位置:《深度学习:从基础到实践(上下册)》第14章《集成算法》(来源项目 `extracted/深度学习:从基础到实践(上下册)/_epub-src/text/part0021_split_006.html`)
- 结论依据:原文介绍节点随机特征、随机阈值及弱学习器加权组合;效果与实现边界在卡片中注明。
- 原始内容:不为每个特征分配最佳分割节点,而是根据所在的值随机选择分割节点。 这种变化产生的结果称为极端随机树(extratrees)。 虽然看起来这似乎注定会给我们带来那棵决策树里更糟糕的结果,但我们应该记得,决策树很容易过拟合。