知识卡片

普通读书笔记卡 · 7262.q · 生成模型:WorkBuddy (Claude)

随机游走图Embedding

理解等级:高级

阿里 2018 年的十亿级商品 Embedding 把“图 + 随机游走 + Word2vec”结合做召回,分三代演进:

1)基础图(BG)Embedding:按用户点击序列(限定 1 小时内,短周期商品更相似)建一个有向图,按边概率随机游走生成序列,再用 Skip-gram 训商品相似。转移概率正比于共现次数。 2)带额外信息的图 Embedding(GES):新商品无行为,无法从 BG 得到向量,于是加入品牌、类目、店铺等 Side Information(SI)。把商品自身 onehot 与 n 个 SI 的 onehot 各自 Embedding 后求平均表示该商品——比 Airbnb 的 type 法更灵活,无需人工编码特征。 3)加强图 Embedding(EGES):求平均太粗糙,不同 SI 贡献不同,额外学一个权重矩阵 A,对 (n+1) 个向量加权求和;新商品因未学到权重,退化为平均。

随机游走的核心优点:建图只保留结构、丢掉频次,每个节点都当起点游走保证被充分训练,避免热门物料过度训练、长尾欠训练;同时快速缩减超大图、保留分布,更适合召回而非精排。关联 [[Word2vec原理与召回映射]]、[[Airbnb长期兴趣建模]]。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《推荐系统全链路设计:原理解读与业务实践》第7章《个性化召回层样本选择和模型选择》(来源项目book-sources;extracted/推荐系统全链路设计:原理解读与业务实践/_epub-src/converter-master/example/312287/74.html;src-044) - 结论依据:原文给出 BG/GES/EGES 三代演进及随机游走保留结构、均衡训练频次的优点,支撑本卡。 - 原始内容:1.相似房源推荐 Airbnb采用了 物料Embedding 的方式对相似房源推荐的问题进行建模,主要利用 用户的物料点击序列 模拟Word2vec中Skip-gram的训练方式