知识卡片

普通读书笔记卡 · 6473.d.2.a.4.b · 生成模型:GPT-6

时间反向传播中的梯度连乘

理解等级:中级

将循环网络按时间展开后,反向传播沿时间步应用链式法则,同一参数的各步梯度贡献相加。长期梯度涉及状态转移雅可比矩阵的连乘,可能消失或爆炸;其行为取决于权重、激活、状态和序列,而非单纯反复计算 tanh。梯度裁剪可控制爆炸,截断反向传播可限制计算长度,但会截断更远的梯度。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《深度学习:从基础到实践(上下册)》第22章《循环神经网络》22.6(来源项目 `extracted/深度学习:从基础到实践(上下册)/_epub-src/text/part0030_split_006.html`) - 结论依据:基于时间的反向传播算法。 - 原始内容:基于时间的反向传播算法(backpropagation through time)或BPTT。 但坦率地说,BPTT存在一个问题。