知识卡片
SHAP的线性可加分解
SHAP将所解释的模型输出表示为基线加各特征贡献之和:贡献正负表示相对基线推高或拉低输出。基线取决于背景分布、解释器及输出尺度,不能一概等于所有样本真实标签均值。树模型可用TreeExplainer等算法计算归因,但高效程度和精确性有条件;这是一种分配模型预测差异的方法,不自动成为因果分解。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第11章 机器学习模型可解释性 11.3 黑盒模型的解释性 · 查看原书依据
SHAP的目标是通过计算每个特征在预测过程中的贡献量,解释该特征在此次预测中的重要程度。它的创新之处在于将Shapley值表示为一种附加特征归因方法,即线性模型,特征重要性和模型预测值可以用特征贡献的线性组合表示。 举例来说,设第i个样本为xi,第i个样本的第j个特征为xij,模型对该样本的预测值为yi,整个模型的基线为ybase(这里通常取所有样本目标变量的均值),则SHAP值满足以下公式: yi = ybase + f(xi1) + f(xi2) + … + f(xij) 其中,f(xij)为xij的SHAP值,表示第i个样本的第j个特征对最终预测值yi的贡献。当f(xij)>0时,说明该特征提升了预测值,起到正向作用;当f(xij)<0时,说明该特征降低了预测值,起到反向作用。我们可以将Shapley值类比为物理概念中的“力”,每个特征值都可能增加或减少预测的力。预测从基线开始,Shapley值的基线是所有预测的平均值。这些力在数据实例的实际预测中彼此平衡。
参考来源
- 位置:《数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow》第11章 机器学习模型可解释性,11.3 黑盒模型的解释性(来源项目a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow/_epub-src/OEBPS/Text/part0063.xhtml)
- 结论依据:原文给出基线加贡献的加和关系及树解释器;基线按解释器背景与输出定义,不固定为真实标签均值。
- 原始内容:SHAP的目标是通过计算每个特征在预测过程中的贡献量,解释该特征在此次预测中的重要程度。它的创新之处在于将Shapley值表示为一种附加特征归因方法,即线性模型,特征重要性和模型预测值可以用特征贡献的线性组合表示。 举例来说,设第i个样本为xi,第i个样本的第j个特征为xij,模型对该样本的预测值为yi,整个模型的基线为ybase(这里通常取所有样本目标变量的均值),则SHAP值满足以下公式: yi = ybase + f(xi1) + f(xi2) + … + f(xij) 其中,f(xij)为xij的SHAP值,表示第i个样本的第j个特征对最终预测值yi的贡献。当f(xij)>0时,说明该特征提升了预测值,起到正向作用;当f(xij)<0时,说明该特征降低了预测值,起到反向作用。我们可以将Shapley值类比为物理概念中的“力”,每个特征值都可能增加或减少预测的力。预测从基线开始,Shapley值的基线是所有预测的平均值。这些力在数据实例的实际预测中彼此平衡。