原书出处
智能算法导论
181 1 9 . 2 神 经 网 络 算 法 实 现
图19.11 等高线示意图 算法过程如下所述。 求梯度: 若|▽i|<ε,运行结束,输出θi(i=0,1,2,…,n)。
若|▽i|≥ε,运行下一步更新所有的θ: 加快收敛的方法:特征缩放,在多特征问题中保证特征有相近的尺度将有利于梯度下降;通过调整学习率来更改收敛速度,学习率过小会导致梯度下降法收敛过慢,但过大也可能使得网络不能收敛。 目前已有多种梯度下降法,如下所述。
(1)批量梯度下降法(batch gradient descent)是梯度下降法中使用最多的形式,其具体操作是在更新参
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/智能算法导论/_epub-src/EPUB/xhtml/chapter19_0004.xhtml
EPUB SHA-256:18e2691ea1badb55bab48f10fe7172f9d6a95bc5207bb2e234686cbbaff3641d