知识卡片
信息增益与增益率
信息增益比较划分前的类别熵和各子节点的加权熵,增益越大表示该划分降低的不确定性越多。高基数特征可能人为制造很纯的小组;增益率再考虑划分自身的信息量,但也可能偏向取值较少的特征。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 第5章 机器学习
原书出处 · 1 处
- 机器学习 · 查看原书依据
信息增益越大,则意味着使用属性a来进行划分所获得的纯度提升越大。
参考来源
- 位置:《现代人工智能技术》第5章《机器学习》(来源项目:book-source;源文件:extracted/现代人工智能技术/_epub-src/EPUB/xhtml/chapter7.xhtml)
- 结论依据:原文说明 ID3 的信息增益以及 C4.5 增益率的偏好。
- 原始内容:信息增益越大,则意味着使用属性a来进行划分所获得的纯度提升越大。