← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 7263.o · 生成模型:WorkBuddy (Claude)

SHAP可加特征归因

理解等级:高级

SHAP 是把夏普利值落地为“可加特征归因”的方法:对每一次预测,它把模型输出解释为每个输入特征的归因值(夏普利值)之和,即 f(x) = ϕ_0 + Σϕ_j,其中 ϕ_0 是所有训练样本的预测均值。对于推荐这类全结构化数据,特征都可见(z′恒为1),公式可进一步化简为各特征归因之和加常数。

除继承夏普利值的效率性、对称性、空值性、可加性外,SHAP 还有三条独有性质:局部准确性(单样本各特征归因加常数等于输出 f(x))、缺失性(观察不到的特征归因值为0)、一致性(若模型改动使某特征边际贡献不减,则其归因也不减)。计算上,SHAP 通过“逐步把特征加入子集、用条件期望 E[f(x)|x_S] 求差值”的迭代过程得到每个 ϕ_j。它与 [[夏普利值特征归因]] 同源,是解决 [[FiBiNET特征重要性]] 之外另一种模型可解释性路线。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《推荐系统全链路设计:原理解读与业务实践》第8章《精排层的样本选择和模型选择》(来源项目book-sources;extracted/推荐系统全链路设计:原理解读与业务实践/_epub-src/converter-master/example/312287/99.html;src-051) - 结论依据:原文定义 SHAP 为可加特征归因 f(x)=ϕ_0+Σϕ_j,并说明其满足夏普利四性及局部准确性、缺失性、一致性三属性,及基于条件期望的迭代计算。 - 原始内容:SHAP将模型的预测值解释为每个输入特征的归因值之和