知识卡片
乳腺癌的Boosting模型
用 gbm 包拟合 Boosting,注意分类因变量要先编码成 0/1(factor 后再转 numeric),否则接口不接受。参数 distribution=‘adaboost’ 选用 AdaBoost,n.trees=5000 表示迭代 5000 轮,interaction.depth=3 限制每棵树的深度(即允许的交互阶数)。测试集准确率 96%,良性判对 95%、恶性判对 97%,与 Bagging 相当而略逊于随机森林。summary() 给出相对重要性,V2 排第一;plot(bio.boost, i=‘V2’) 画偏依赖图,横轴是细胞大小均匀性得分,纵轴是模型输出,曲线单调上升,说明得分越高越可能被判为恶性。predict() 返回实数,需用 >0 转成类别再与真值比较。这一组结果说明:在该数据上三种组合方法的差距在 1—2 个百分点内,单棵树明显落后。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第5章 决策树与组合方法 · 查看原书依据
偏依赖图给出了这一变量对模型输出值的边际影响。在本例中,从偏依赖图可以看出,细胞大小均匀性的得分与模型的输出值成正比,即细胞大小均匀性的得分越高,病人的癌细胞越可能是恶性的。
参考来源
- 位置:《大数据挖掘与统计机器学习》第5章 决策树与组合方法(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter7_0005.xhtml,5.5.1 乳腺癌数据)
- 结论依据:原文给出 gbm 的类别编码要求、adaboost 分布与 n.trees、interaction.depth 参数、测试集 96% 的结果,以及 summary 重要性排序和 V2 偏依赖图的正向关系。
- 原始内容:偏依赖图给出了这一变量对模型输出值的边际影响。在本例中,从偏依赖图可以看出,细胞大小均匀性的得分与模型的输出值成正比,即细胞大小均匀性的得分越高,病人的癌细胞越可能是恶性的。