原书出处
大模型技术30讲
17 第17章 编码器和解码器风格的Transformer架构
任务的输出,如任务标签或词元的预测。 17.4 当代Transformer模型
简而言之,编码器风格的模型很适合学习分类任务中的嵌入向量,编码器-解码器模型用于输出强依赖于输入的生成式任务(例如翻译和摘要),而纯解码器模型用于其他类型的生成任务,包括问答。
自第一个Transformer架构问世以来,人们已经开发出了数百种纯编码器模型、
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/大模型技术30讲/_epub-src/EPUB/xhtml/chapter01_0023.xhtml
EPUB SHA-256:aed12db0b1b08a8757496d8d12796b8829fa2546eb77ccf47b557e4abbb6a0ec