知识卡片
标签均匀时熵最大
节点信息熵是按类比例加权的平均意外程度。类别只有一个时随机取样即可确定标签,熵为零。固定类别数 K 时,均匀分配达到最大值 log₂K。把 0log0 按极限取零,避免空类别在程序里生成无效值。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 第4章 决策树
原书出处 · 1 处
- 第4章 决策树 · 查看原书依据
其中,表示样本类别总数,表示第类样本所占的比例,有.若令,那么信息熵就可以看作一个元实值函数,即
参考来源
- 位置:《机器学习公式详解》第4章 决策树(book-source:`extracted/机器学习公式详解/_epub-src/text/part0010_split_000.html`,式(4.1))
- 结论依据:式(4.1)的极值推导比较均匀类别比例与单一类别的边界分布。
- 原始内容:其中,表示样本类别总数,表示第类样本所占的比例,有.若令,那么信息熵就可以看作一个元实值函数,即