知识卡片

普通读书笔记卡 · 7262.k · 生成模型:WorkBuddy (Claude)

FM召回特征交叉与双塔化

理解等级:高级

FM(Factorization Machine)在 LR 基础上做特征隐向量两两交叉,复杂度从 O(kn²) 降到 O(kn),是线性时间内实现特征交叉的经典模型。它之所以能像双塔一样召回,关键在于公式可拆:logit = 用户侧一阶 + 物料侧一阶 + 用户隐向量内部交叉 + 物料隐向量内部交叉 + 用户隐向量×物料隐向量。当“针对一个用户召回一群物料”时,用户侧部分可忽略,剩余只依赖物料侧项与“用户隐向量×物料隐向量”。

于是离线把物料 Embedding(含一阶权重与隐向量内部交叉的增广项)灌入 Faiss,线上生成用户 Embedding(concat 1 与 ∑xv)去检索 Top-k——与双塔流程一致,却保留了 FM 的二阶交叉能力。这是双塔召回中唯一具备“用户侧与物料侧特征逐对交叉”的模型:DSSM 只在最后一层交叉,FM 在特征层就交叉;其二阶交叉+一阶 LR 综合能力不弱于 DNN,而 Embedding 形式又在推理速度上碾压 DNN。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 个性化召回层样本选择和模型选择 7.2 双塔召回 · 查看原书依据

      但是,通过对公式的解析可以发现,FM依然可以实现类似双塔模式的召回,具体如下: logit=∑所有特征的一阶权重+∑所有特征隐向量两两交叉 =∑user特征一阶权重+∑item特征一阶权重+∑user特征隐向量内部交叉+∑item特征隐向量内部交叉+∑user隐向量×item隐向

    参考来源

    - 位置:《推荐系统全链路设计:原理解读与业务实践》第7章《个性化召回层样本选择和模型选择》(来源项目book-sources;extracted/推荐系统全链路设计:原理解读与业务实践/_epub-src/converter-master/example/312287/67.html;src-043) - 结论依据:原文推导 FM 的 logit 拆解与双塔化召回流程,并点明 FM 是唯一具用户/物料特征交叉的双塔模型,支撑本卡。 - 原始内容:但是,通过对公式的解析可以发现,FM依然可以实现类似双塔模式的召回,具体如下: logit=∑所有特征的一阶权重+∑所有特征隐向量两两交叉 =∑user特征一阶权重+∑item特征一阶权重+∑user特征隐向量内部交叉+∑item特征隐向量内部交叉+∑user隐向量×item隐向