原书出处
深度学习详解
05 循环神经网络 5.6 RNN的学习方式
有了损失函数以后,训练也用梯度下降来实现. 换言之,定义了损失函数,更新计算其对的偏微分以后,再用梯度下降法更新里面的参数.梯度下降用在前馈神经网络里的算法称为反向传播.在循环神经网络中,为了计算方便,人们提出了反向传播的进阶版——随时间反向传播(BackPropagation Through Time,BPTT). BPTT与反向传播十分相似,只是循环神经网络运作在时间序列上,所以BPTT需要考虑时间上的信息,如图5.28 所示.
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/深度学习详解/_epub-src/OEBPS/Text/Chapter05.xhtml
EPUB SHA-256:35d2d4b7de742e0ce7756e7fb57c534014bf33cecdf0483a75e23cb7446cb7dc