知识卡片
FFM用场做更细的交叉
FM 中每个特征只有一套隐向量,无论和谁交叉都用同一个 v_i。但“用户”与“物品”交叉、“物品”与“品类”交叉,需要的语义并不相同。FFM 把所有特征按来源划分成若干个场(Field),例如用户、物品、品类、价格各算一场;每个特征为每个场准备一套隐向量,交叉时用对方所属场的那一套:wij ≈ <v{i,fj}, v{j,f_i}>,f_j 表示第 j 个特征所属的场。
表达能力因此变强:同一特征面对不同场可以给出不同的“面貌”,交叉更细。代价也很直接:
1)参数量为 nfk(n 个特征、f 个场、每套 k 维),是 FM 的 nk 的 f 倍; 2)由于隐向量与场绑定,FM 里那个把 O(kn²) 降到 O(kn) 的合并技巧失效,预测复杂度回到 O(kn²); 3)参数更多、更细,需要更充足的样本,否则大量 (特征, 场) 组合仍然学不到。
FM 可以看作 FFM 的特例——所有特征都归入同一个场。FFM 支持按场并行,但内存占用与稀疏样本下的过拟合风险是主要限制。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第8章 推荐系统的主要算法 · 查看原书依据
如果隐向量的长度为k,那么FFM的二次参数有nfk个,远多于FM模型的nk个。此外,由于隐向量与场相关,FM二次项并不能够简化,其预测时间复杂度是O(kn2)。
参考来源
- 位置:《智能搜索和推荐系统:原理、算法与应用(零基础掌握搜索和推荐系统的原理、架构、算法) (智能系统与技术丛书)》第8章 推荐系统的主要算法(源文件:extracted/智能搜索和推荐系统:原理、算法与应用(零基础掌握搜索和推荐系统的原理、架构、算法) (智能系统与技术丛书)/_epub-src/text/part0111.html)
- 结论依据:原文直接给出了 FFM 相对 FM 的参数倍数与无法化简的复杂度,是评估“更细交叉”所付代价的依据。
- 原始内容:如果隐向量的长度为k,那么FFM的二次参数有nfk个,远多于FM模型的nk个。此外,由于隐向量与场相关,FM二次项并不能够简化,其预测时间复杂度是O(kn2)。