← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9840 · 生成模型:Hunyuan

决策树基本思想:if-then逐层划分

理解等级:初级

决策树把人脑中的 if-then 判断写成一棵树:每个内部节点检验一个特征,按取值把样本分到不同分支,走到叶子就得到分类结论。构造时先选一个特征作根节点,把样本按它的取值切成若干子集;若某个子集为空或其中样本同属一个类别,就把它定为叶子,否则继续选新特征递归划分,直到所有子集都成为叶子。

笔记本销售的例子里,先用年龄分老中青:中年全为“买”,直接成叶;青年和老年仍混杂,于是青年再看收入与学生、老年再看信誉,逐步把买与不买分开。树画好后把“买”的叶子统一放右、“不买”放左,任一客户从根走到叶的整条路径就是他的判定依据;把路径边上的计数除以总数,还得到该节点的购买概率。

这种结构的可贵之处是判断过程可追溯:既给出结论,也给出为什么。它是后面 ID3、C4.5 等算法共享的骨架,差别只在“怎样选出该切哪个特征”。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第3章 决策树的发展 · 查看原书依据

      决策树的思想来源非常朴素,每个人大脑中都有类似if-then这样的判断逻辑,其中if表示条件,then就是选择或决策。在程序设计中,最基本的语句条件分支结构就是if-then结构。而最早的决策树就是利用这类结构分隔数据的一种分类学习方法。

    参考来源

    - 位置:《机器学习算法原理与编程实践》第3章 决策树的发展(源文件:extracted/机器学习算法原理与编程实践/_epub-src/OEBPS/text00013.html) - 结论依据:原文从 if-then 判断引出决策树,用销售表手工演示根节点、内部节点、叶子节点的划分过程,并说明路径方向与购买概率的对应,支撑“逐层划分、叶子出结论”的解释。 - 原始内容:决策树的思想来源非常朴素,每个人大脑中都有类似if-then这样的判断逻辑,其中if表示条件,then就是选择或决策。在程序设计中,最基本的语句条件分支结构就是if-then结构。而最早的决策树就是利用这类结构分隔数据的一种分类学习方法。