← 返回卡片

原书出处

深度学习详解

18 可解释性机器学习 18.4 可解释性机器学习中的局部解释

核验版本的摘录快照 · 导入于 2026-11-21T12:46:32.561Z

当然梯度并不是万能的,梯度并不完全能够反映一个部分的重要性,举个例子,如图18.5 所示. 横轴代表一个生物鼻子的长度,纵轴代表这个生物是大象的可能性.我们都知道大象的特征是鼻子长,所以鼻子越长,这个生物是大象的可能性就越大. 但是当鼻子长到一定程度以后,再长的鼻子也不会让这个生物变得更像大象.这时候,如果计算鼻子的长度对这个生物是大象的可能性的偏微分,那么得到的结果可能会趋近于 0.所以如果仅仅看梯度,或者仅仅看显著图,可能会得出一个结论:鼻子的长度对这个生物是不是大象这件事情是不重要的,鼻子的长度不是判断生物是否为大象的一个指标,因为鼻子长度的变化,对生物是大象的可能性的变化趋近于 0,但事实上,我们知道鼻子的长度是一个很重要的指标.所以仅仅看梯度和偏微分的结果,可能没有办法完全告诉我们一个部分的重要性. 当然,也有其他的方法可以使用,如积分梯度(integrated gradients)等.

此预览只包含定位所需的摘录和上下文。

原书定位详情

来源:a19c7933-4eda-4176-aebd-30fe7e1ad292

正文位置:extracted/深度学习详解/_epub-src/OEBPS/Text/Chapter18.xhtml

EPUB SHA-256:35d2d4b7de742e0ce7756e7fb57c534014bf33cecdf0483a75e23cb7446cb7dc