知识卡片
Shapley值的公平分配
Shapley值最早用于解决多人合作创造价值后如何公平分配收益的问题——每个人的分配额,是他在所有可能的合作顺序里带来的边际贡献的平均值。把这个思路搬到机器学习模型解释里,”玩家”就是特征,”合作产生的价值”就是模型预测值,每个特征的Shapley值衡量的是它在所有特征组合顺序下对预测结果的平均边际贡献,天然能同时捕捉单个特征的独立影响和特征之间的协同影响。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第11章 机器学习模型可解释性 11.3 黑盒模型的解释性 · 查看原书依据
Shapley用于解决合作博弈的贡献和收益分配问题,即n个玩家参与合作项目,创造了v(n)的合作价值,结合每个个体所做的贡献,对创造的价值进行公平的收益分配,第i个个体的Shapley值是个体i对于合作项目期望的贡献量的平均值,这个分配方式避免了分配上的平均主义。
参考来源
- 位置:《数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow》第11章 机器学习模型可解释性,11.3 黑盒模型的解释性(来源项目a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow/_epub-src/OEBPS/Text/part0063.xhtml)
- 结论依据:原文明确"Shapley用于解决合作博弈的贡献和收益分配问题……第i个个体的Shapley值是个体i对于合作项目期望的贡献量的平均值",并说明把该思路映射到模型解释里"每个特征是游戏中的'玩家'……一个特征的Shapley值是该特征在所有特征序列中的平均边际贡献"。
- 原始内容:Shapley用于解决合作博弈的贡献和收益分配问题,即n个玩家参与合作项目,创造了v(n)的合作价值,结合每个个体所做的贡献,对创造的价值进行公平的收益分配,第i个个体的Shapley值是个体i对于合作项目期望的贡献量的平均值,这个分配方式避免了分配上的平均主义。