← 返回卡片

原书出处

大模型技术30讲

02 第2章 自监督学习

核验版本的摘录快照 · 导入于 2026-11-18T10:51:38.334Z

有少量有标签数据的情况下,如果要训练大型神经网络,实用方案可能还是自监督学习。

众所周知,基于Transformer架构的大型语言模型或视觉模型,就是通过自监督学习进行预训练,从而达到良好的效果。 对于只有两三层的感知机这样的小型神经网络来说,自监督学习通常是既不实用也不必要的。

同样,自监督学习对于传统机器学习中的非参数化模型也不实用,如基于树的随机森林和

此预览只包含定位所需的摘录和上下文。

原书定位详情

来源:a19c7933-4eda-4176-aebd-30fe7e1ad292

正文位置:extracted/大模型技术30讲/_epub-src/EPUB/xhtml/chapter01_0006.xhtml

EPUB SHA-256:aed12db0b1b08a8757496d8d12796b8829fa2546eb77ccf47b557e4abbb6a0ec