知识卡片
按输入输出划分的四种RNN架构
按输入与输出的形式,RNN 可分为多对一、一对多、多对多(同步)与多对多(异步)四类,这是理解 RNN 应用边界的基本框架。多对一在读入整个序列后只产生一个输出,用于情感分析、歌曲流派识别;一对多只接受一个输入却输出一个序列,用于以起始音符或词生成音乐与诗歌;多对多同步让每个输入对应一个输出,输出依赖所有先前输出与当前输入,用于时间序列滚动预测、命名实体识别、词性标记与语音识别;多对多异步读完整段输入后才生成输出,且输出长度可与输入不同,典型用于机器翻译与多步预测。从隐藏层看,常用架构则是原始 RNN、LSTM 与 GRU。原始结构见[[原始RNN架构与权重]]。
结构图:
flowchart LR
X["输入/输出形式"] --> F{"四种架构"}
F -->|多对一| A["整段序列 → 单个输出"]
F -->|一对多| B["单个输入 → 输出序列"]
F -->|多对多同步| C["每步 x[t] → 每步 y[t]"]
F -->|多对多异步| D["整段输入 → 不等长输出"]
A --> A1["情感分析/流派识别"]
B --> B1["音乐/诗歌生成"]
C --> C1["时序预测/NER/PoS"]
D --> D1["机器翻译/多步预测"]
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 循环神经网络 RNN 架构和应用——不同输入和输出的架构 · 查看原书依据
RNN 可以分为多对一,一对多,多对多(同步)和多对多(基于它们的输入和输出)。 从隐藏层的角度来看,最常用的 RNN 架构包括基本的原始 RNN 和双向的 LSTM 和 GRU。 我们将专注于 RNN 的这四种架构,并将首先通过输入和输出简要提及这四个类别。
参考来源
- 位置:《Python深度学习架构实用指南(初译)》第06章《循环神经网络》(源文件:`../../book-sources/extracted/Python深度学习架构实用指南(初译)/_epub-src/OEBPS/Text/11.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292)
- 结论依据:原文先按输入输出列出四种形式再给工业用例,并从隐藏层角度归纳原始 RNN、LSTM、GRU,支撑以输入输出划分架构的结论。
- 原始内容:RNN 可以分为多对一,一对多,多对多(同步)和多对多(基于它们的输入和输出)。 从隐藏层的角度来看,最常用的 RNN 架构包括基本的原始 RNN 和双向的 LSTM 和 GRU。 我们将专注于 RNN 的这四种架构,并将首先通过输入和输出简要提及这四个类别。