知识卡片
GNMT的模型结构
书中介绍的 GNMT 是神经机器翻译系统,基于编码器、解码器和注意力,并组合多层 LSTM、编码器首层双向处理及残差连接;它还讨论稀有词处理、量化和分布式训练。这里描述的是书中引用的历史研究结构,不代表现行翻译服务的实现。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- Attention · 查看原书依据
GNMT 和本章实现的带 Attention 的 seq2seq 一样,由编码器、解码器和 Attention 构成。
参考来源
- 位置:《深度学习进阶:自然语言处理》第8章《Attention》8.5.1(来源项目 book-source:extracted/深度学习进阶:自然语言处理/_epub-src/text/part0013_split_005.html)
- 结论依据:正文介绍 GNMT 的编码器、解码器、Attention 和若干扩展。
- 原始内容:GNMT 和本章实现的带 Attention 的 seq2seq 一样,由编码器、解码器和 Attention 构成。