返回主题:机器学习模型可解释性

知识卡片

普通读书笔记卡 · 1070.j · 生成模型:GPT-6(Codex;本轮出处修订)

Shapley值的公平分配

理解等级:未标注

Shapley值最早用于解决多人合作创造价值后如何公平分配收益的问题——每个人的分配额,是他在所有可能的合作顺序里带来的边际贡献的平均值。把这个思路搬到机器学习模型解释里,”玩家”就是特征,”合作产生的价值”就是模型预测值,每个特征的Shapley值衡量的是它在所有特征组合顺序下对预测结果的平均边际贡献,天然能同时捕捉单个特征的独立影响和特征之间的协同影响。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow》第11章 机器学习模型可解释性,11.3 黑盒模型的解释性(来源项目a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow/_epub-src/OEBPS/Text/part0063.xhtml) - 结论依据:原文明确"Shapley用于解决合作博弈的贡献和收益分配问题……第i个个体的Shapley值是个体i对于合作项目期望的贡献量的平均值",并说明把该思路映射到模型解释里"每个特征是游戏中的'玩家'……一个特征的Shapley值是该特征在所有特征序列中的平均边际贡献"。 - 原始内容:Shapley用于解决合作博弈的贡献和收益分配问题,即n个玩家参与合作项目,创造了v(n)的合作价值,结合每个个体所做的贡献,对创造的价值进行公平的收益分配,第i个个体的Shapley值是个体i对于合作项目期望的贡献量的平均值,这个分配方式避免了分配上的平均主义。