知识卡片
支撑集与回合的训练法
是什么:小样本学习不直接拟合训练集,而是把数据组织成支撑集,再反复抽样构造任务。流程是:从支撑集采一个 N-way K-shot 任务 → 配一个同标签的查询集 → 模型预测并更新 → 一个回合结束 → 重新采样下一个任务。训练结束后,在标签完全不同的新任务上测试。
几个术语要分清: - 支撑集:可供抽样的带标数据池,也叫基集; - 查询集:每个任务里待预测的样本; - 回合(episode):一次“看支撑集→预测查询集→更新”的完整流程; - 基类:训练阶段出现的类别,测试类别与之不重叠。
为什么这样设计:常规训练让模型记住固定标签集,一换标签就失效;回合式训练模拟的正是“拿到几个新样本就要分类”的场景,逼模型学“如何学习”而不是背答案。
代价:采样策略、N 与 K 的分布都会影响效果;测试类别不重叠意味着无法靠类别先验取巧,难度显著高于普通分类。
结构图:
flowchart TB
A["支撑集/基集(少量标注)"] --> B["采样任务:N-way K-shot"]
B --> C["查询集(同任务标签)"]
C --> D["回合结束,更新参数"]
D -->|"重复采样"| B
D --> E["测试:标签全新的任务"]
E --> F["新支撑集+查询集,直接预测"]
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第3章 小样本学习 · 查看原书依据
与其说小样本学习是在让模型拟合训练数据集,不如说它是在让模型“学会如何学习”。与监督学习不同,小样本学习不是直接使用训练数据集,而是使用所谓的支撑集。
参考来源
- 位置:《大模型技术30讲》第3讲 小样本学习(源文件:extracted/大模型技术30讲/_epub-src/EPUB/xhtml/chapter01_0007.xhtml)
- 结论依据:第3章 3.1 支撑集、查询集、回合、基类与测试标签不重叠
- 原始内容:与其说小样本学习是在让模型拟合训练数据集,不如说它是在让模型“学会如何学习”。与监督学习不同,小样本学习不是直接使用训练数据集,而是使用所谓的支撑集。