知识卡片

结构图卡 · 9451.f · 生成模型:Tencent Hunyuan Hy

RNN的五种结构形态

理解等级:中级

RNN 要求每个时刻都有输入,但不一定每个时刻都有输出,因此衍出多种结构:

  • 基本型:一个定长输入对应一个定长输出。
  • 1 to N:只在起点输入(或每阶段都输入同一信息),输出一个序列;用于图片标注、按类别生成音乐或文字。
  • N to 1:输入序列、去掉中间输出、最后统一产出一个值;用于情感分析(句子判为积极/消极)、视频分类。
  • N to N:输入输出等长;用于机器翻译、命名实体识别(找人名、地名、机构名等)。
  • N to M(Seq2Seq/Encoder-Decoder):M 常大于 N,先把输入编码成上下文向量 c,再由解码网络还原为输出。

用途:按“输入/输出是否定长、是否对齐”快速选型。边界:命名只是形态概括,具体实现可混合。迁移启发:产品里的“输入一段、输出一段”和“输入一段、判定一个标签”,对应的是不同 RNN 结构。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 自然语言处理与循环神经网络 12.2.3 RNN的结构 · 查看原书依据

      图中每个矩形都表示一个向量。箭头表示矩阵权值,第一层为输入向量,第三层为处理后的输出向量。(a)为基本的神经网络,其中一个固定大小的输入对应一个固定大小的输出;(b)同样是单一输入,但输出是一个序列数据;(c)把序列输入转化为单个输出;(d)把序列输入转化为序列输出;(e)同步的序列输入和输出。

    参考来源

    - 位置:《产品经理进阶:100个案例搞懂人工智能 (林中翘)》第12章《自然语言处理与循环神经网络》(源文件:`../../book-sources/extracted/产品经理进阶:100个案例搞懂人工智能 (林中翘)/_epub-src/OEBPS/text00017.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292) - 结论依据:原文列举 (a)—(e) 各结构并逐类给出应用场景,支撑“按输入输出形态可选不同 RNN 结构”的结论。 - 原始内容:图中每个矩形都表示一个向量。箭头表示矩阵权值,第一层为输入向量,第三层为处理后的输出向量。(a)为基本的神经网络,其中一个固定大小的输入对应一个固定大小的输出;(b)同样是单一输入,但输出是一个序列数据;(c)把序列输入转化为单个输出;(d)把序列输入转化为序列输出;(e)同步的序列输入和输出。