知识卡片
FFM特征域感知交叉
FFM在FM基础上引入特征域(field-aware)概念,把一个特征从“只有一个隐向量”变成“一组隐向量”:做交叉时,每个特征挑选与对方所属域对应的那个隐向量来算内积。所谓域,通常是one-hot编码形成的一段特征向量,例如性别域的[0,1,0]。以Publisher、Advertiser、Gender三个域为例,ESPN与NIKE交叉、与Male交叉时,会分别使用针对不同域的隐向量,不再像FM那样固定用同一个wESPN。这样引入了更多有价值信息、表达能力更强,但参数量升到n·k·f,二次项无法像FM那样简化,复杂度达到kn²,远高于FM的kn。因此工程上必须在效果提升与计算投入之间权衡,FM与FFM的选择没有绝对答案。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第2章 前深度学习时代——推荐系统的进化之路 · 查看原书依据
2015年,基于FM提出的FFM[6]在多项CTR预估大赛中夺魁,并被Criteo、美团等公司深度应用在推荐系统、CTR 预估等领域。相比 FM 模型,FFM 模型引入了特征域感知(field-aware)这一概念,使模型的表达能力更强
参考来源
- 位置:《深度学习推荐系统》第2章 前深度学习时代——推荐系统的进化之路(源文件:extracted/深度学习推荐系统/_epub-src/text/part0006_split_005.html)
- 结论依据:原文定义特征域并用ESPN、NIKE、Male的例子对比FM与FFM交叉权重的差异,最后给出参数量n·k·f与复杂度kn²的代价。
- 原始内容:2015年,基于FM提出的FFM[6]在多项CTR预估大赛中夺魁,并被Criteo、美团等公司深度应用在推荐系统、CTR 预估等领域。相比 FM 模型,FFM 模型引入了特征域感知(field-aware)这一概念,使模型的表达能力更强