知识卡片
Shapley值：合作博弈里的公平贡献分配
内容
Shapley值最早用于解决多人合作创造价值后如何公平分配收益的问题——每个人的分配额，是他在所有可能的合作顺序里带来的边际贡献的平均值。把这个思路搬到机器学习模型解释里，”玩家”就是特征，”合作产生的价值”就是模型预测值，每个特征的Shapley值衡量的是它在所有特征组合顺序下对预测结果的平均边际贡献，天然能同时捕捉单个特征的独立影响和特征之间的协同影响。
参考来源
- 位置：《数据科学工程实践》第11章《机器学习模型可解释性》"11.3.1 黑盒模型解释方法·Shapley"一节（源文件：_epub-src/OEBPS/Text/part0063.xhtml）
- 结论依据：原文明确"Shapley用于解决合作博弈的贡献和收益分配问题……第i个个体的Shapley值是个体i对于合作项目期望的贡献量的平均值"，并说明把该思路映射到模型解释里"每个特征是游戏中的'玩家'……一个特征的Shapley值是该特征在所有特征序列中的平均边际贡献"。
- 原始内容：Shapley用于解决合作博弈的贡献和收益分配问题，即n个玩家参与合作项目，创造了v(n)的合作价值，结合每个个体所做的贡献，对创造的价值进行公平的收益分配，第i个个体的Shapley值是个体i对于合作项目期望的贡献量的平均值……可以假设实例中每个特征是游戏中的'玩家'，以此来解释模型预测的结果……一个特征的Shapley值是该特征在所有特征序列中的平均边际贡献。