原书出处
大模型技术30讲
18 第18章 使用和微调预训练Transformer
包括只更新输出层,我们称之为微调I,以及更新模型的所有层,我们称之为微调II。
微调I类似于前面介绍的基于特征的方法,但它为大模型本身添加了一个或多个输出层。大模型的核心部分保持“冻结”状态
,我们只更新这些新输出层中的模型参数。由于不需要在整个网络中反向传播,这种方法在
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/大模型技术30讲/_epub-src/EPUB/xhtml/chapter01_0024.xhtml
EPUB SHA-256:aed12db0b1b08a8757496d8d12796b8829fa2546eb77ccf47b557e4abbb6a0ec