知识卡片
随机森林优劣与特征重要性
随机森林有三大优点:各决策树可并行训练,耗时短、效率高;投票机制避免单棵决策树的过拟合;源于决策树,继承了处理高维大量数据、无需复杂预处理、调参简单即可得到不错结果等长处。它还能输出特征重要性,帮我们做变量筛选——查看哪些特征对预测贡献小甚至为零,据此决定是否丢弃,对解释性差或简单特征尤其省事。但代价是牺牲了单棵树的可解释性,集成机制让它成为黑盒,不适合强解释性场景(如需要给出明确决策依据的信贷审批)。它广泛用于金融选股、银行贷款风险评估、医药成分组合识别、电商商品偏好分析等。迁移启发:当项目紧急、数据量大或结构不清时,随机森林是稳妥基线;当业务要求“说清为什么”时,需换用可解释模型。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 要想模型效果好,集成算法少不了 9.3.2 随机森林算法 · 查看原书依据
通过查看特征的重要性,我们可以知道哪些特征对预测过程没有太多贡献或没有贡献,从而决定是否丢弃这类特征。但同时,在集成之后随机森林算法牺牲了单棵决策树的可解释性。由于集成机制的解释性差,因此也让随机森林算法变成了黑盒算法,不适用于强解释性的场景。
参考来源
- 位置:《产品经理进阶:100个案例搞懂人工智能 (林中翘)》第9章《要想模型效果好,集成算法少不了》(源文件:`../../book-sources/extracted/产品经理进阶:100个案例搞懂人工智能 (林中翘)/_epub-src/OEBPS/text00014.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292)
- 结论依据:原文“通过查看特征的重要性……决定是否丢弃这类特征。但同时,在集成之后随机森林算法牺牲了单棵决策树的可解释性……不适用于强解释性的场景”直接给出其可解释性上的得与失。
- 原始内容:通过查看特征的重要性,我们可以知道哪些特征对预测过程没有太多贡献或没有贡献,从而决定是否丢弃这类特征。但同时,在集成之后随机森林算法牺牲了单棵决策树的可解释性。由于集成机制的解释性差,因此也让随机森林算法变成了黑盒算法,不适用于强解释性的场景。