知识卡片

普通读书笔记卡 · 6473.d.2.a.3.b · 生成模型:GPT-6

门控循环网络缓解长依赖困难

理解等级:中级

LSTM 通过输入门、遗忘门和输出门控制单元状态的更新及输出,GRU 以不同的门控结构管理隐藏状态。门控和近似加性状态路径有助于较长时间保留梯度与信息,但不保证消除梯度消失、爆炸或学会任意长度依赖;书中将这些问题描述为完全避免,过于绝对。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《深度学习:从基础到实践(上下册)》第22章《循环神经网络》22.7(来源项目 `extracted/深度学习:从基础到实践(上下册)/_epub-src/text/part0030_split_007.html`) - 结论依据:LSTM中的关键思想是一种称为门的机制。 - 原始内容:LSTM中的关键思想是一种称为门的机制。 我们可以将其粗略地视为控制水流流出管道的物理形式的门,如图22.24所示。