知识卡片
SHAP分布与重要性分开读
SHAP摘要点图逐样本显示某特征把模型输出推高或拉低的幅度,并用颜色表示特征取值;它可以展示异质性和方向。平均绝对SHAP的条形图只汇总贡献幅度,丢失正负方向与样本差异。两者都依赖模型、背景与所解释输出尺度,排序高不等于改变该特征会有同样的因果效果。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第11章 机器学习模型可解释性 11.3 黑盒模型的解释性 · 查看原书依据
我们也可以设置shap_summary的plot_type参数为bar指定绘制条形图。SHAP条形图展示了每个特征SHAP值的平均绝对值,能表示模型中各个特征的重要性,并按照重要性从高到底排序,如代码清单11-9所示。
参考来源
- 位置:《数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow》第11章 机器学习模型可解释性,11.3 黑盒模型的解释性(来源项目a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow/_epub-src/OEBPS/Text/part0063.xhtml)
- 结论依据:原文对比点图分布和平均绝对值条形图,均是模型预测归因。
- 原始内容:我们也可以设置shap_summary的plot_type参数为bar指定绘制条形图。SHAP条形图展示了每个特征SHAP值的平均绝对值,能表示模型中各个特征的重要性,并按照重要性从高到底排序,如代码清单11-9所示。