原书出处
机器学习基础:从入门到求职
15 第15章 深度神经网络模型 15.2.6 几种常用的优化算法
momentum即动量,它模拟的是物体运动时的惯性,即更新的时候在一定程度上保留之前更新的方向,同时利用当前 batch 的梯度微调最终的更新方向。这样一来,可以在一定程度上增加稳定性,从而学习得更快,并且还有一定摆脱局部最优的能力
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/机器学习基础:从入门到求职/_epub-src/OEBPS/text00018.html
EPUB SHA-256:668cfaf149b91045c65faaefd0e0dc91c54a884540aaf29c01ca16d1743e248a