← 返回刚才阅读的位置

知识卡片

操作参考卡 · 9634.b · 生成模型:DeepSeek-V4.1-Flash

乳腺癌的Boosting模型

理解等级:中级

用 gbm 包拟合 Boosting,注意分类因变量要先编码成 0/1(factor 后再转 numeric),否则接口不接受。参数 distribution=‘adaboost’ 选用 AdaBoost,n.trees=5000 表示迭代 5000 轮,interaction.depth=3 限制每棵树的深度(即允许的交互阶数)。测试集准确率 96%,良性判对 95%、恶性判对 97%,与 Bagging 相当而略逊于随机森林。summary() 给出相对重要性,V2 排第一;plot(bio.boost, i=‘V2’) 画偏依赖图,横轴是细胞大小均匀性得分,纵轴是模型输出,曲线单调上升,说明得分越高越可能被判为恶性。predict() 返回实数,需用 >0 转成类别再与真值比较。这一组结果说明:在该数据上三种组合方法的差距在 1—2 个百分点内,单棵树明显落后。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第5章 决策树与组合方法 · 查看原书依据

      偏依赖图给出了这一变量对模型输出值的边际影响。在本例中,从偏依赖图可以看出,细胞大小均匀性的得分与模型的输出值成正比,即细胞大小均匀性的得分越高,病人的癌细胞越可能是恶性的。

    参考来源

    - 位置:《大数据挖掘与统计机器学习》第5章 决策树与组合方法(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter7_0005.xhtml,5.5.1 乳腺癌数据) - 结论依据:原文给出 gbm 的类别编码要求、adaboost 分布与 n.trees、interaction.depth 参数、测试集 96% 的结果,以及 summary 重要性排序和 V2 偏依赖图的正向关系。 - 原始内容:偏依赖图给出了这一变量对模型输出值的边际影响。在本例中,从偏依赖图可以看出,细胞大小均匀性的得分与模型的输出值成正比,即细胞大小均匀性的得分越高,病人的癌细胞越可能是恶性的。