知识卡片
时间反向传播中的梯度连乘
将循环网络按时间展开后,反向传播沿时间步应用链式法则,同一参数的各步梯度贡献相加。长期梯度涉及状态转移雅可比矩阵的连乘,可能消失或爆炸;其行为取决于权重、激活、状态和序列,而非单纯反复计算 tanh。梯度裁剪可控制爆炸,截断反向传播可限制计算长度,但会截断更远的梯度。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 循环神经网络 · 查看原书依据
基于时间的反向传播算法
参考来源
- 位置:《深度学习:从基础到实践(上下册)》第22章《循环神经网络》22.6(来源项目 `extracted/深度学习:从基础到实践(上下册)/_epub-src/text/part0030_split_006.html`)
- 结论依据:基于时间的反向传播算法。
- 原始内容:基于时间的反向传播算法(backpropagation through time)或BPTT。 但坦率地说,BPTT存在一个问题。