知识卡片

普通读书笔记卡 · 6483.i · 生成模型:GPT-6

极端随机树随机选择切分

理解等级:中级

极端随机树在构建树时引入额外的随机性,例如对候选特征随机选择切分阈值,再比较候选划分。随机化可能降低模型之间的相关性和过拟合,也可能增加单棵树的偏差;结果依赖数据和实现。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《深度学习:从基础到实践(上下册)》第14章《集成算法》(来源项目 `extracted/深度学习:从基础到实践(上下册)/_epub-src/text/part0021_split_006.html`) - 结论依据:原文介绍节点随机特征、随机阈值及弱学习器加权组合;效果与实现边界在卡片中注明。 - 原始内容:不为每个特征分配最佳分割节点,而是根据所在的值随机选择分割节点。 这种变化产生的结果称为极端随机树(extratrees)。 虽然看起来这似乎注定会给我们带来那棵决策树里更糟糕的结果,但我们应该记得,决策树很容易过拟合。