知识卡片
CART按二分搜索基尼
节点基尼等于 1 减各类比例平方之和。分类 CART 对每个候选二分都计算左右节点基尼的加权和,选择最小者并继续递归。书中的离散属性用某取值与其他值分开,因此三个取值未必在同一节点形成三条边。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 第4章 决策树
原书出处 · 1 处
- 第4章 决策树 · 查看原书依据
此为数据集中属性的基尼指数的定义,表示在属性的取值已知的条件下,数据集按照属性的所有可能取值划分后的纯度.不过在构造CART决策树时并不会严格按照此式来选择最优划分属性,主要是因为CART决策树是一棵二叉树,如果用上面的
参考来源
- 位置:《机器学习公式详解》第4章 决策树(book-source:`extracted/机器学习公式详解/_epub-src/text/part0010_split_000.html`,式(4.6))
- 结论依据:式(4.6)之后的西瓜样例按是否等于候选取值计算子节点加权基尼。
- 原始内容:此为数据集中属性的基尼指数的定义,表示在属性的取值已知的条件下,数据集按照属性的所有可能取值划分后的纯度.不过在构造CART决策树时并不会严格按照此式来选择最优划分属性,主要是因为CART决策树是一棵二叉树,如果用上面的