知识卡片
Word2vec原理与召回映射
Word2vec 是 NLP 的预训练模型,核心是用一个词预测上下文(或反之)来学习词向量。其精髓在于:输入词做 onehot,乘“输入层→隐层”权重后,只有对应 1 的位置被激活,这些权重组成一个向量唯一表示这个词——这就是著名的 Embedding 来历。模型分 CBOW(用上下文预测中心词)和 Skip-gram(用中心词预测上下文)两种结构,损失分别为对应形式。
推荐领域借鉴它,把“用户点击过的物料序列”当作句子、每个物料当单词,用 Skip-gram 训练得到物料 Embedding,再按相似度召回,这种思路叫 I2I(物料找物料)。同理,基于用户找用户叫 U2U;把用户和物料放进同一序列共训其共现性叫 I2U。这类方法天然适合捕捉物料间语义/行为相似,是后续 Airbnb、阿里图 Embedding 的基础。关联 [[Airbnb相似房源召回]]。
注意:Word2vec 在推荐中通常只用 Skip-gram,且一般配合层次 Softmax 或负采样加速训练。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 个性化召回层样本选择和模型选择 7.3 Word2vec在召回中的应用 · 查看原书依据
Word2vec在推荐中将用户的点击序列视为一个句子,将点击的每个物料视作单词,然后进行Word2vec训练(一般采用Skip-gram的方式),从而得到每一个物料的Embedding,再通过物料Embedding的相似性去进行对应的召回
参考来源
- 位置:《推荐系统全链路设计:原理解读与业务实践》第7章《个性化召回层样本选择和模型选择》(来源项目book-sources;extracted/推荐系统全链路设计:原理解读与业务实践/_epub-src/converter-master/example/312287/74.html;src-044)
- 结论依据:原文解释 onehot 经权重得到 Embedding 即词向量来历,以及 CBOW/Skip-gram 结构,并指出推荐中将点击序列当句子训练得到 I2I/U2U/I2U 召回,支撑本卡。
- 原始内容:Word2vec在推荐中将用户的点击序列视为一个句子,将点击的每个物料视作单词,然后进行Word2vec训练(一般采用Skip-gram的方式),从而得到每一个物料的Embedding,再通过物料Embedding的相似性去进行对应的召回