← 返回卡片

原书出处

大模型技术30讲

17 第17章 编码器和解码器风格的Transformer架构

核验版本的摘录快照 · 导入于 2026-11-18T10:51:38.338Z

将英语翻译为德语而研发的。这一架构同时采用了编码器与解码器,如图17-1所示。

如图17-1所示,输入文本(即要翻译的句子)首先被切分为独立的词元,随后通过嵌入层进行编码(有关嵌入的更多信息,请参阅第1章),再进入编码器阶段。

在给每个嵌入的词添加位置编码向量后,这些嵌入向量会通过多头自注意力层。接着图17

此预览只包含定位所需的摘录和上下文。

原书定位详情

来源:a19c7933-4eda-4176-aebd-30fe7e1ad292

正文位置:extracted/大模型技术30讲/_epub-src/EPUB/xhtml/chapter01_0023.xhtml

EPUB SHA-256:aed12db0b1b08a8757496d8d12796b8829fa2546eb77ccf47b557e4abbb6a0ec