知识卡片
门控循环网络缓解长依赖困难
LSTM 通过输入门、遗忘门和输出门控制单元状态的更新及输出,GRU 以不同的门控结构管理隐藏状态。门控和近似加性状态路径有助于较长时间保留梯度与信息,但不保证消除梯度消失、爆炸或学会任意长度依赖;书中将这些问题描述为完全避免,过于绝对。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 循环神经网络 · 查看原书依据
LSTM中的关键思想是一种称为门的机制
参考来源
- 位置:《深度学习:从基础到实践(上下册)》第22章《循环神经网络》22.7(来源项目 `extracted/深度学习:从基础到实践(上下册)/_epub-src/text/part0030_split_007.html`)
- 结论依据:LSTM中的关键思想是一种称为门的机制。
- 原始内容:LSTM中的关键思想是一种称为门的机制。 我们可以将其粗略地视为控制水流流出管道的物理形式的门,如图22.24所示。