知识卡片

普通读书笔记卡 · 9896.d · 生成模型:Hunyuan

一次学习与零次学习

理解等级:高级

一次学习是迁移任务只有一个标注样本,零次学习则完全没有标注样本。之所以可能,是因为第一阶段学到的表示已把潜在类别清楚分离,一个样本就足以推断聚集在同一点周围测试样本的标签。零次学习还需额外的任务描述变量T,模型估计p(y|x,T),例如读过’猫有四条腿、尖耳朵’的文本后,即使没见过猫的图像也能识别;T必须被泛化表示(如词嵌入),不能只是类别的one-hot编码。同理,多模态学习同时学习两种模态各自的表示及二者之间的映射,把一种模态的概念锚定到另一种,从而实现零次迁移。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第15章 表示学习 · 查看原书依据

      迁移学习的两种极端形式是一次学习 (one-shot learning)和零次学习 (zero-shot learning),有时也被称为零数据学习 (zero-data learning)。只有一个标注样本的迁移任务被称为一次学习;没有标注样本的迁移任务被称为零次学习。

    参考来源

    - 位置:《深度学习》第15章 表示学习(源文件:extracted/深度学习/_epub-src/text/part0005_split_000.html) - 结论依据:原文将一次学习和零次学习定义为迁移学习的两种极端形式,说明第一阶段表示能清楚分离潜在类别是一次学习可行的原因,并给出读文本认猫的例子及T需泛化表示的要求。 - 原始内容:迁移学习的两种极端形式是一次学习 (one-shot learning)和零次学习 (zero-shot learning),有时也被称为零数据学习 (zero-data learning)。只有一个标注样本的迁移任务被称为一次学习;没有标注样本的迁移任务被称为零次学习。