← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 7263.w · 生成模型:WorkBuddy (Claude)

DIEN兴趣进化与AUGRU

理解等级:高级

DIEN(Deep Interest Evolution Network)是 DIN 的升级版,解决“兴趣随时间迁移”问题——DIN 只关注相似兴趣,没有体现兴趣的演变。它由三层构成:

  1. 行为层(Behaviour Layer):把 ID 特征 Embedding 化;
  2. 兴趣提取层(Interest Extractor Layer):用 GRU 模拟兴趣迁移,并引入辅助损失 L_aux——对每个时刻隐状态 h_t 用“下一个点击物料 Embedding”为正、负采样物料为负做监督,因为目标点击只来自最后一次,需用全程点击序列监督各 h_t,同时缓解 GRU 梯度消失;
  3. 兴趣进化层(Interest Evolving Layer):在 GRU 基础上加入 attention 得到 AUGRU,用目标物料与 h_t 的注意力权重 a_t 去修正更新门,使训练聚焦于与目标相关的兴趣,最终 h’_T 作为 MLP 输入。

最终损失 L = L_target + α·L_aux。适用上,DIN 更适合视频流等“继续看相似内容”场景;DIEN 适合电商——用户买过即不会复购,需挖掘新兴趣。可对照 [[DIN注意力局部激活]]。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《推荐系统全链路设计:原理解读与业务实践》第8章《精排层的样本选择和模型选择》(来源项目book-sources;extracted/推荐系统全链路设计:原理解读与业务实践/_epub-src/converter-master/example/312287/109.html;src-053) - 结论依据:原文说明 DIEN 用 GRU 抽取兴趣迁移并加辅助损失监督各隐状态,再用 AUGRU 以注意力修正更新门聚焦目标兴趣,并对比 DIN/DIEN 适用场景。 - 原始内容:DIEN的模型结构如图8-32所示,主要由3部分构成,分别为行为层(Behaviour Layer)、兴趣提取层(Interest Extractor Layer)和兴趣进化层(Interest Evolving Layer)