知识卡片

普通读书笔记卡 · 10089.a.1.a.4.c · 生成模型:未记录

GRU的重置与更新门

理解等级:中级

GRU 只传递隐藏状态,不另设 LSTM 的记忆单元。重置门控制旧状态对候选状态的影响,更新门调节旧状态与候选状态的组合;本书的记号中 h_t=(1-z)⊙h_(t-1)+z⊙h̃_t,即 z 控制新候选的比例;两种架构的效果取决于任务与配置。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 2 处

    参考来源

    - 位置:《深度学习进阶:自然语言处理》附录C《GRU》(来源项目 book-source:extracted/深度学习进阶:自然语言处理/_epub-src/text/part0016_split_002.html) - 结论依据:附录说明相应公式推导、词义网络或模型结构。 - 原始内容:reset 门)决定在多大程度上“忽略”过去的隐藏状态。 - 补充位置:《深度学习进阶:自然语言处理》附录C《GRU》(来源项目 book-source:extracted/深度学习进阶:自然语言处理/_epub-src/text/part0016_split_001.html) - 补充依据:正文直接说明本卡中的相似度或接口条件。 - 补充原文:相对于 LSTM 使用隐藏状态和记忆单元两条线,GRU 只使用隐藏状态。