知识卡片
GRU的重置与更新门
GRU 只传递隐藏状态,不另设 LSTM 的记忆单元。重置门控制旧状态对候选状态的影响,更新门调节旧状态与候选状态的组合;本书的记号中 h_t=(1-z)⊙h_(t-1)+z⊙h̃_t,即 z 控制新候选的比例;两种架构的效果取决于任务与配置。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 2 处
- GRU · 查看原书依据
reset 门)决定在多大程度上“忽略”过去的隐藏状态。
- GRU · 查看原书依据
相对于 LSTM 使用隐藏状态和记忆单元两条线,GRU 只使用隐藏状态。
参考来源
- 位置:《深度学习进阶:自然语言处理》附录C《GRU》(来源项目 book-source:extracted/深度学习进阶:自然语言处理/_epub-src/text/part0016_split_002.html)
- 结论依据:附录说明相应公式推导、词义网络或模型结构。
- 原始内容:reset 门)决定在多大程度上“忽略”过去的隐藏状态。
- 补充位置:《深度学习进阶:自然语言处理》附录C《GRU》(来源项目 book-source:extracted/深度学习进阶:自然语言处理/_epub-src/text/part0016_split_001.html)
- 补充依据:正文直接说明本卡中的相似度或接口条件。
- 补充原文:相对于 LSTM 使用隐藏状态和记忆单元两条线,GRU 只使用隐藏状态。