知识卡片

结构图卡 · 9553.c · 生成模型:DeepSeek-V4.1-Flash

SimCLR的四个组件

理解等级:中级

SimCLR 的流程可以拆成四个前后衔接的组件。

  1. 数据增强:对批次中每幅图像独立采样两次变换,得到两倍数量的视图。
  2. 编码器:所有视图共享同一个主干网络,把图像映射为特征向量,这部分是最终要保留的产物。
  3. 投影头:一个小网络,把特征向量再映射到对比学习专用的空间,训练时的相似度在这里计算。
  4. 对比损失:在投影空间中衡量正负样本对的相似度并给出梯度,通常采用 NT-Xent。

这个结构的关键在于”分离”:对比目标作用在投影空间,而不是编码器输出空间。投影头承担适配对比任务的工作,编码器则被推向更通用的表示,避免特征被过度塑形。

四步之间是严格的先后关系,但真正的变量在第一步:批次大小决定负样本数量,增强种类决定正样本对的难度,两者共同决定训练任务有多难。因此调 SimCLR 时先看增强与批次,再看网络深度。参见 [[[[NT-Xent把对比学习写成分类]]]] 与 [[从自监督预训练到下游微调]]。

结构图:

flowchart LR
  X[同一批图像] --> T1[增强视图A]
  X --> T2[增强视图B]
  T1 --> E1[共享编码器]
  T2 --> E2[共享编码器]
  E1 --> P1[投影头]
  E2 --> P2[投影头]
  P1 --> L[NT-Xent损失]
  P2 --> L
  L --> G[反向更新编码器]
这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 对比学习与对抗训练 · 查看原书依据

      它通过对同一图像进行不同的随机数据增强来生成两个不同的视图,并让模型在没有标签的情况下学习生成相似的嵌入向量。其核心在于使用数据增强生成正负样本对,并通过特定的对比损失函数(通常为NT-Xent损失)让模型在嵌入空间中将相似的样本拉近,将不相似的样本推开。

    参考来源

    - 位置:《从零构建大模型:算法、训练与微调》第8章《对比学习与对抗训练》(源文件:extracted/从零构建大模型:算法、训练与微调/_epub-src/EPUB/xhtml/chapter012_0001.xhtml) - 结论依据:原文把 SimCLR 拆为数据增强、编码器、投影头、对比损失四部分,并说明其对同一图像做不同随机增强以在无标签下学习相似嵌入。 - 原始内容:它通过对同一图像进行不同的随机数据增强来生成两个不同的视图,并让模型在没有标签的情况下学习生成相似的嵌入向量。其核心在于使用数据增强生成正负样本对,并通过特定的对比损失函数(通常为NT-Xent损失)让模型在嵌入空间中将相似的样本拉近,将不相似的样本推开。