← 返回卡片

原书出处

深度学习

06 第6章 深度前馈网络

核验版本的摘录快照 · 导入于 2026-11-19T07:27:03.628Z

能训练模型改变其输出(Bridle,1990)。要理解为什么这些损失函数可能失败,我们需要检查softmax函数本身。

像sigmoid一样,softmax激活函数可能会饱和。sigmoid函数具有单个输出,当它的输入极端负或者极端正时会饱和。对于softmax的情况,它有多个输出值。当输入值之间的差异变得极端时,这些输出值可能饱和。

当softmax饱和时,基于softmax的许多代价函数也饱和,除非它们能够转化饱和的激活函数。 为了说明softmax

此预览只包含定位所需的摘录和上下文。

原书定位详情

来源:a19c7933-4eda-4176-aebd-30fe7e1ad292

正文位置:extracted/深度学习/_epub-src/text/part0002.html

EPUB SHA-256:30b05f447b47f121324499dd200696e34be257d5cd4c4b753541b42f40a94639