知识卡片
全局代理模型只能解释模型本身
内容
[[全局代理模型的解释逻辑]]用黑盒模型在全部数据上的预测结果重新训练一个可解释模型（线性模型/决策树）来近似黑盒模型，优点是简单直观、不需要理解黑盒内部机制。但它有个根本局限：得到的永远是”关于模型的结论”而不是”关于数据的结论”——代理模型学到的是黑盒模型的行为模式，不代表数据本身真实的因果关系，这一点在用代理模型的解释做业务决策时容易被忽略。
参考来源
- 位置：《数据科学工程实践》第11章《机器学习模型可解释性》"11.3.1 黑盒模型解释方法·全局代理模型"一节（源文件：_epub-src/OEBPS/Text/part0063.xhtml）
- 结论依据：原文明确全局代理模型"在数据集的采样上使用原始黑盒模型的数据集进行建模的，也存在一定的不足：得到的永远是有关模型而非有关数据的结论"。
- 原始内容：所谓全局代理模型是在数据集的采样上使用原始黑盒模型的数据集进行建模的，也存在一定的不足：得到的永远是有关模型而非有关数据的结论。