Saabas不一致问题与SHAP的解法

Saabas方法用”路径上相邻节点预测值之差”来衡量某特征对单个样本预测的贡献，实现简单、速度快，但存在不一致问题：模型实际更依赖的特征，有时反而被算出更低的贡献值，原因是它只看了一条实际走过的路径，没考虑该特征在其他特征组合下的边际影响。SHAP借用博弈论中shapley value的思路解决这个问题：把每个特征当作”合作博弈”里的一个参与者，通过遍历该特征在所有可能的其他特征子集组合下加入前后的输出变化，取加权平均作为其贡献值，这样单个特征的重要性就不再依赖于某一条具体路径，而是对所有可能情境的边际贡献做了公平平均。这体现了一个通用原则：局部启发式的归因方法快但可能失真，真正严谨的归因需要考虑该因素在所有可能上下文组合下的边际效应。