知识卡片
一次学习与零次学习
一次学习是迁移任务只有一个标注样本,零次学习则完全没有标注样本。之所以可能,是因为第一阶段学到的表示已把潜在类别清楚分离,一个样本就足以推断聚集在同一点周围测试样本的标签。零次学习还需额外的任务描述变量T,模型估计p(y|x,T),例如读过’猫有四条腿、尖耳朵’的文本后,即使没见过猫的图像也能识别;T必须被泛化表示(如词嵌入),不能只是类别的one-hot编码。同理,多模态学习同时学习两种模态各自的表示及二者之间的映射,把一种模态的概念锚定到另一种,从而实现零次迁移。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第15章 表示学习 · 查看原书依据
迁移学习的两种极端形式是一次学习 (one-shot learning)和零次学习 (zero-shot learning),有时也被称为零数据学习 (zero-data learning)。只有一个标注样本的迁移任务被称为一次学习;没有标注样本的迁移任务被称为零次学习。
参考来源
- 位置:《深度学习》第15章 表示学习(源文件:extracted/深度学习/_epub-src/text/part0005_split_000.html)
- 结论依据:原文将一次学习和零次学习定义为迁移学习的两种极端形式,说明第一阶段表示能清楚分离潜在类别是一次学习可行的原因,并给出读文本认猫的例子及T需泛化表示的要求。
- 原始内容:迁移学习的两种极端形式是一次学习 (one-shot learning)和零次学习 (zero-shot learning),有时也被称为零数据学习 (zero-data learning)。只有一个标注样本的迁移任务被称为一次学习;没有标注样本的迁移任务被称为零次学习。