知识卡片
乳腺癌数据:组合模型对比
Bagging 借 randomForest() 实现:设 mtry=ncol(biopsy)-1=9,即每次分裂用全部 9 个变量,就退化为 Bagging;na.action=na.roughfix 用列中位数(数值)与众数(类别)填补缺失。测试集预测准确率 96%,优于单树的 92%(注意测试集中 6 个含缺失的样本在预测时被剔除,实际参与 134 例)。随机森林不再指定 mtry,分类默认取 √p≈3,准确率升到 97%,恶性识别率从 96% 提到 98%。importance() 输出两列:MeanDecreaseAccuracy 是打乱该变量后准确率的平均下降,MeanDecreaseGini 是该变量分裂带来的节点不纯度下降;V2(细胞大小均匀性)与 V6(裸核)居前。变量数从 9 降到 3,精度反而略升,说明降相关比多用变量更重要。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第5章 决策树与组合方法 · 查看原书依据
可以看到,随机森林的表现较 Bagging 有所提高,在测试集上的准确率提高到9 7 %,对恶性肿瘤的预测准确率从96%提高到98%。
参考来源
- 位置:《大数据挖掘与统计机器学习》第5章 决策树与组合方法(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter7_0005.xhtml,5.5.1 乳腺癌数据)
- 结论依据:原文说明 Bagging 通过 mtry 取全部变量实现、用 na.roughfix 填补缺失,给出 96% 与随机森林 97%、恶性 98% 的结果,并解释两种变量重要性指标。
- 原始内容:可以看到,随机森林的表现较 Bagging 有所提高,在测试集上的准确率提高到9 7 %,对恶性肿瘤的预测准确率从96%提高到98%。