知识卡片
全局代理模型的解释逻辑
内容
全局代理模型不直接研究黑盒模型的内部结构，而是用黑盒模型的输入和它自己的预测输出重新训练一个白盒模型（如决策树）；如果这个白盒模型能较好地复现黑盒模型的预测结果（用R²衡量拟合程度），就认为它在一定程度上”翻译”出了黑盒模型的决策逻辑。这只是黑盒模型的近似总结而非精确还原，是[[黑盒模型与白盒模型的取舍]]中”两者结合”思路的一种具体实现方式。
参考来源
- 位置：《数据科学工程实践》第4章《使用体系化分析方法进行场景挖掘》"4.2.3 全局代理模型"一节（源文件：_epub-src/OEBPS/Text/part0023.xhtml）
- 结论依据：原文明确"代理模型通常是一种简单模型，用于解释复杂的黑盒模型……并作用于原始输入和复杂模型输出的预测值，而不是在输入数据和原始目标变量上进行训练"，并给出R²定义："R2表示代理模型解释了黑盒模型预测值变差的比例……越接近1说明解释了越多的变差，越接近0说明解释能力越弱"。
- 原始内容：代理模型通常是一种简单模型，用于解释复杂的黑盒模型，常用的代理模型有线性模型和决策树模型。构建代理模型是为了表现、刻画复杂模型的决策过程，并作用于原始输入和复杂模型输出的预测值，而不是在输入数据和原始目标变量上进行训练……R2表示代理模型解释了黑盒模型预测值变差的比例，与回归模型中的R2意义相同，越接近1说明解释了越多的变差，越接近0说明解释能力越弱。