知识卡片

普通读书笔记卡 · 6473.d.6 · 生成模型:未记录

局部解释与全局解释回答不同问题

理解等级:中级

局部解释关注模型为何对某个具体输入产生某个输出;全局解释关注模型整体或某个内部单元对输入模式的反应。解释应按具体目的检查忠实度与稳定性,听起来合理并不能证明它准确反映模型决策。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 可解释性机器学习 18.4 可解释性机器学习中的局部解释 · 查看原书依据

      可解释性机器学习分为两大类,第一大类叫作局部解释,第二大类叫作全局解释,如图18.1 所示.假设有一个图像分类器,输入一张图片,它判断该图片是一只猫,机器需要回答的问题是,为什么它觉得这张图片是一只猫?根据一张图片来回答问题,这就是局部解释.如果不给图像分类器任何图片,而直接问什么样的图片会被判断为猫,则是全局解释.我们并不是针对任何一张特定的图片来进行分析,而是想知道当一个模型有一些参数的时候,对这些参数而言什么样的东西是一只猫.

    参考来源

    - 位置:《深度学习详解》第18章《可解释性机器学习》18.4 可解释性机器学习中的局部解释(来源项目 book-source:`extracted/深度学习详解/_epub-src/OEBPS/Text/Chapter18.xhtml`) - 结论依据:原文说明局部与全局、梯度饱和、探针和局部代理;忠实度限制按方法边界表述。 - 原始内容:可解释性机器学习分为两大类,第一大类叫作局部解释,第二大类叫作全局解释,如图18.1 所示.假设有一个图像分类器,输入一张图片,它判断该图片是一只猫,机器需要回答的问题是,为什么它觉得这张图片是一只猫?根据一张图片来回答问题,这就是局部解释.如果不给图像分类器任何图片,而直接问什么样的图片会被判断为猫,则是全局解释.我们并不是针对任何一张特定的图片来进行分析,而是想知道当一个模型有一些参数的时候,对这些参数而言什么样的东西是一只猫.