← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9553.b · 生成模型:DeepSeek-V4.1-Flash

数据增强是对比学习的标签

理解等级:中级

对比学习没有标签可用,监督信号来自数据增强本身。同一张图像经过两次独立采样的随机变换(裁剪、翻转、颜色抖动等)得到两个视图,它们共享语义,被定义为正样本对;来自不同图像的视图则被定义为负样本对。于是”是否同源”成了唯一的监督信息。

增强策略实际上决定了模型会忽略什么、在意什么:只做颜色抖动,模型学到的特征对颜色不敏感;加入裁剪,模型学会对位置与尺度保持稳定。增强太弱时,两个视图几乎相同,模型只需输出常数向量就能让正样本距离很小,任务失去难度;增强太强时,语义被改掉,正样本对本身就不成立,等于教模型把不同东西拉近。

因此增强的强度与多样性不是装饰,而是在无标签条件下手工设计标签体系——它界定了”什么算同一个东西”。这也解释了为什么 SimCLR 强调对每幅图像独立应用两次随机增强,而不是复用同一套变换参数。参见 [[SimCLR的四个组件]]。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 对比学习与对抗训练 · 查看原书依据

      对比学习的核心在于通过构建正负样本对使模型在无监督条件下获得有效特征。在这种设置中,正样本对是指来源于同一输入的不同视角或数据增强的结果,负样本对则是不同输入的不同视角。

    参考来源

    - 位置:《从零构建大模型:算法、训练与微调》第8章《对比学习与对抗训练》(源文件:extracted/从零构建大模型:算法、训练与微调/_epub-src/EPUB/xhtml/chapter012_0001.xhtml) - 结论依据:原文明确正样本对指同一输入的不同视角或数据增强结果,负样本对是不同输入的不同视角,并在 SimCLR 部分强调对每幅图像应用两次不同的随机增强。 - 原始内容:对比学习的核心在于通过构建正负样本对使模型在无监督条件下获得有效特征。在这种设置中,正样本对是指来源于同一输入的不同视角或数据增强的结果,负样本对则是不同输入的不同视角。