← 返回卡片

原书出处

数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow

11 第11章 机器学习模型可解释性 11.3 黑盒模型的解释性

核验版本的摘录快照 · 导入于 2026-11-14T09:43:22.283Z

SHAP的目标是通过计算每个特征在预测过程中的贡献量,解释该特征在此次预测中的重要程度。它的创新之处在于将Shapley值表示为一种附加特征归因方法,即线性模型,特征重要性和模型预测值可以用特征贡献的线性组合表示。 举例来说,设第i个样本为xi,第i个样本的第j个特征为xij,模型对该样本的预测值为yi,整个模型的基线为ybase(这里通常取所有样本目标变量的均值),则SHAP值满足以下公式: yi = ybase + f(xi1) + f(xi2) + … + f(xij) 其中,f(xij)为xij的SHAP值,表示第i个样本的第j个特征对最终预测值yi的贡献。当f(xij)>0时,说明该特征提升了预测值,起到正向作用;当f(xij)<0时,说明该特征降低了预测值,起到反向作用。我们可以将Shapley值类比为物理概念中的“力”,每个特征值都可能增加或减少预测的力。预测从基线开始,Shapley值的基线是所有预测的平均值。这些力在数据实例的实际预测中彼此平衡。

此预览只包含定位所需的摘录和上下文。

原书定位详情

来源:a19c7933-4eda-4176-aebd-30fe7e1ad292

正文位置:extracted/数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow/_epub-src/OEBPS/Text/part0063.xhtml

EPUB SHA-256:b9d74c3cb9a87547f425283a2273004c2d73de2c2b50ebf97c2ab3336ae5d102