原书出处
大模型技术30讲
17 第17章 编码器和解码器风格的Transformer架构
将英语翻译为德语而研发的。这一架构同时采用了编码器与解码器,如图17-1所示。
如图17-1所示,输入文本(即要翻译的句子)首先被切分为独立的词元,随后通过嵌入层进行编码(有关嵌入的更多信息,请参阅第1章),再进入编码器阶段。
在给每个嵌入的词添加位置编码向量后,这些嵌入向量会通过多头自注意力层。接着图17
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/大模型技术30讲/_epub-src/EPUB/xhtml/chapter01_0023.xhtml
EPUB SHA-256:aed12db0b1b08a8757496d8d12796b8829fa2546eb77ccf47b557e4abbb6a0ec