知识卡片
局部解释与全局解释回答不同问题
局部解释关注模型为何对某个具体输入产生某个输出;全局解释关注模型整体或某个内部单元对输入模式的反应。解释应按具体目的检查忠实度与稳定性,听起来合理并不能证明它准确反映模型决策。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 可解释性机器学习 18.4 可解释性机器学习中的局部解释 · 查看原书依据
可解释性机器学习分为两大类,第一大类叫作局部解释,第二大类叫作全局解释,如图18.1 所示.假设有一个图像分类器,输入一张图片,它判断该图片是一只猫,机器需要回答的问题是,为什么它觉得这张图片是一只猫?根据一张图片来回答问题,这就是局部解释.如果不给图像分类器任何图片,而直接问什么样的图片会被判断为猫,则是全局解释.我们并不是针对任何一张特定的图片来进行分析,而是想知道当一个模型有一些参数的时候,对这些参数而言什么样的东西是一只猫.
参考来源
- 位置:《深度学习详解》第18章《可解释性机器学习》18.4 可解释性机器学习中的局部解释(来源项目 book-source:`extracted/深度学习详解/_epub-src/OEBPS/Text/Chapter18.xhtml`)
- 结论依据:原文说明局部与全局、梯度饱和、探针和局部代理;忠实度限制按方法边界表述。
- 原始内容:可解释性机器学习分为两大类,第一大类叫作局部解释,第二大类叫作全局解释,如图18.1 所示.假设有一个图像分类器,输入一张图片,它判断该图片是一只猫,机器需要回答的问题是,为什么它觉得这张图片是一只猫?根据一张图片来回答问题,这就是局部解释.如果不给图像分类器任何图片,而直接问什么样的图片会被判断为猫,则是全局解释.我们并不是针对任何一张特定的图片来进行分析,而是想知道当一个模型有一些参数的时候,对这些参数而言什么样的东西是一只猫.