原书出处
机器学习算法原理与编程实践
06 第6章 神经网络初步
大,要求的迭代次数就越少,但是越容易跳过最优值;这个值越小,要求的迭代次数越多。 (3)动量因子(mc):用于网络调优。
最早的BP算法在修正权值时,只按当前迭代次数t的梯度调整,而不考虑t-1的梯度方向。这种方式经常使网络发生震荡,收敛缓慢,难以调优。经过大量的实验,人们引入动量因子,该因子分配了t时刻和t-1时刻的梯度值,用以修正算法。
下面是修正隐含层的权重代码。 self.hi_wb = self.hi_wb+(1.0 - self.mc)*self.
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/机器学习算法原理与编程实践/_epub-src/OEBPS/text00022.html
EPUB SHA-256:70d8d79af4c27e857a132f2bb0cf0dbfa14854fa17c13eacb72320d7c9bf315d