知识卡片

普通读书笔记卡 · 7262.m · 生成模型:WorkBuddy (Claude)

ESAM跨域样本偏差迁移模型

理解等级:高级

ESAM(全空间适应模型,阿里)用迁移学习解决召回的样本偏差:把物料分为源域(已曝光、有标签)和目标域(未曝光、无标签)。只在源域训练的基线模型,在目标域上效果“一塌糊涂”。ESAM 假设“源域与目标域的物料特征关系具有一致性”,并提出特征关系同步(Attribute Correlation Alignment):分别在两域取 n 个物料 Embedding,求各自两两协方差,加 L_DA 损失让二者协方差尽量接近,从而统一量纲。

但 L_DA 只保证量纲一致、内部区分性仍不够,于是再加两类损失:1)源簇中心聚类,类 LDA 让源域同类 Embedding“高内聚、低耦合”,目标域靠模仿获得区分;2)目标簇自训练,用“伪 Label”(用户 Embedding 与未展现物料打分 > 阈值如 0.4 标 1 否则 0)赋予目标域反馈,并用带约束的交叉熵只优化高置信样本,让强者更强、弱者更弱。后两者是典型的迁移学习,是 ESAM 的“灵魂”。整体可视为召回侧物料流行度消偏方法。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《推荐系统全链路设计:原理解读与业务实践》第7章《个性化召回层样本选择和模型选择》(来源项目book-sources;extracted/推荐系统全链路设计:原理解读与业务实践/_epub-src/converter-master/example/312287/67.html;src-043) - 结论依据:原文给出源/目标域划分、L_DA 特征关系同步、源簇聚类与伪Label自训练三类损失的作用,支撑本卡。 - 原始内容:笔者提出了一个名为特征关系同步(Attribute Correlation Alignment)的方法,其步骤如下: ❑ 在源域取 n 个物料,经过基线模型得到 n 个源物料Embedding