返回主题:机器学习模型可解释性

知识卡片

普通读书笔记卡 · 1070.h · 生成模型:GPT-6(Codex;本轮出处修订)

全局代理模型只能解释模型本身

理解等级:未标注

[[全局代理模型的解释逻辑]]用黑盒模型在全部数据上的预测结果重新训练一个可解释模型(线性模型/决策树)来近似黑盒模型,优点是简单直观、不需要理解黑盒内部机制。但它有个根本局限:得到的永远是”关于模型的结论”而不是”关于数据的结论”——代理模型学到的是黑盒模型的行为模式,不代表数据本身真实的因果关系,这一点在用代理模型的解释做业务决策时容易被忽略。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow》第11章 机器学习模型可解释性,11.3 黑盒模型的解释性(来源项目a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow/_epub-src/OEBPS/Text/part0063.xhtml) - 结论依据:原文明确全局代理模型"在数据集的采样上使用原始黑盒模型的数据集进行建模的,也存在一定的不足:得到的永远是有关模型而非有关数据的结论"。 - 原始内容:代理模型的特点非常直观,且不关注黑盒模型具体的内在关系,只是通过数据样本以及预测这种简单的可解释模型进行模型解释。所谓全局代理模型是在数据集的采样上使用原始黑盒模型的数据集进行建模的,也存在一定的不足:得到的永远是有关模型而非有关数据的结论。