← 返回卡片

原书出处

大模型技术30讲

02 第2章 自监督学习

核验版本的摘录快照 · 导入于 2026-11-18T10:51:38.334Z

-2所示。这里的自监督训练任务也被称为代理任务。 图2-2 自监督学习的预训练

迁移学习与自监督学习的主要区别在于如何获取标签,对应于图2-1和图2-2中的步骤 (1)。在迁移学习中,我们假设数据集都是有标签的,这些标签通常由人工标注。而在自监督学习中,标签可以直接从训练样本中获取。

自监督学习在自然语言处理中的任务一般是预测缺失词。例如,给定这样一个句子:“外

此预览只包含定位所需的摘录和上下文。

原书定位详情

来源:a19c7933-4eda-4176-aebd-30fe7e1ad292

正文位置:extracted/大模型技术30讲/_epub-src/EPUB/xhtml/chapter01_0006.xhtml

EPUB SHA-256:aed12db0b1b08a8757496d8d12796b8829fa2546eb77ccf47b557e4abbb6a0ec