知识卡片

普通读书笔记卡 · 9775.c · 生成模型:DeepSeek-V4.1-Flash

高基数属性会造出假零熵

理解等级:高级

划分熵有个陷阱:按取值很多的属性划分,很容易得到过低的熵。极端例子是用社会安全号码(或身份证号)划分客户——每人一个子集,每个子集只有一条记录,熵必然为 0,看起来是完美划分。但这种划分只是把训练集背了下来,对训练集之外的数据没有意义,也就是过拟合。所以建树时应避免使用、或直接删掉取值太多的属性。更一般的教训是:任何“分得越细越好”的指标都会奖励记住个体而非学到规律,评价划分方式时必须同时考虑子集的数量与大小,而不只是纯度。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第17章 决策树 · 查看原书依据

      这种方法的一个问题是,由于过拟合,如果按具有许多不同值的属性划分数据,就会导致过低的熵。例如,假设你在一家银行工作,并使用一些历史数据作为训练集,建立

    参考来源

    - 位置:《数据科学入门(第2版)》第17章 决策树(源文件:extracted/数据科学入门(第2版)/_epub-src/OEBPS/Text/0021.xhtml) - 结论依据:原文这一段直接给出本卡的核心判断:「这种方法的一个问题是,由于过拟合,如果按具有许多不同值的属性划分数据,就会导致过……」 - 原始内容:这种方法的一个问题是,由于过拟合,如果按具有许多不同值的属性划分数据,就会导致过低的熵。例如,假设你在一家银行工作,并使用一些历史数据作为训练集,建立