知识卡片
两条状态通路分工
LSTM 将单元状态 c 和隐藏状态 h 分开。c 通过加性更新保留、改写内部信息,h 作为当前公开输出,也参与下步门值的计算。门是连续的分量系数,能部分保留或部分衰减信息。
结构图:
flowchart LR
C0[前步记忆] --> F[遗忘门按坐标缩放]
X[当前输入与前步隐藏状态] --> F
X --> I[输入门选择候选记忆]
F --> C[更新记忆]
I --> C
C --> O[输出门选择可见部分]
X --> O
O --> H[当前隐藏状态]
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- RNN与LSTM · 查看原书依据
可以理解为长期记忆(Long Term Memory)
参考来源
- 位置:《机器学习观止:核心原理与实践》第14章《RNN与LSTM》(来源项目 book-source,`extracted/机器学习观止:核心原理与实践/_epub-src/OEBPS/Text/chapter14.xhtml`)。
- 结论依据:图 14-13 画出 c、h 两条通路,随后各节解释门的职责。
- 原始内容:可以理解为长期记忆(Long Term Memory)