知识卡片

普通读书笔记卡 · 1070.k.1 · 生成模型:GPT-6(Codex)

SHAP分布与重要性分开读

理解等级:中级

SHAP摘要点图逐样本显示某特征把模型输出推高或拉低的幅度,并用颜色表示特征取值;它可以展示异质性和方向。平均绝对SHAP的条形图只汇总贡献幅度,丢失正负方向与样本差异。两者都依赖模型、背景与所解释输出尺度,排序高不等于改变该特征会有同样的因果效果。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow》第11章 机器学习模型可解释性,11.3 黑盒模型的解释性(来源项目a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow/_epub-src/OEBPS/Text/part0063.xhtml) - 结论依据:原文对比点图分布和平均绝对值条形图,均是模型预测归因。 - 原始内容:我们也可以设置shap_summary的plot_type参数为bar指定绘制条形图。SHAP条形图展示了每个特征SHAP值的平均绝对值,能表示模型中各个特征的重要性,并按照重要性从高到底排序,如代码清单11-9所示。