知识卡片
FFM与FmFM域交互
FFM(Field-aware FM)在 FM 基础上引入“特征域(Field)”概念:把特征按类别归入不同域,每个特征不再只有一个隐向量,而是对每一个域都维护一个专属隐向量。当特征 x_i 与 x_j 交叉时,x_i 会选用与 x_j 所在域对应的那个隐向量,从而更精细地刻画“不同域之间”的交互。代价是参数量从 FM 的 nk 增加到 nfk(f 为域数),效果提升部分也源于参数增多。
FmFM 进一步把 Field 抽象为一个映射矩阵 W_ij,把特征 i 的 Embedding 空间线性映射到特征 j 的空间再做交互,自由度介于 FM 与 FFM 之间。它是 FFM 家族的统一框架:当 W 为单位矩阵即退化为 FM;当 W 为标量乘单位矩阵即 FwFM(给每个 Field 交叉一个权重);当 W 为对角矩阵即 FvFM。FmFM 还能通过 PCA 降维在保留 95% 方差下明显减少参数。注意参数越多拟合越好,FFM 的效果并不全来自域建模本身。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 精排层的样本选择和模型选择 8.2 交叉模型 · 查看原书依据
同理,当 变为标量 r 乘以单位矩阵(如图8-7中的灰色矩阵左图)时,其就表征为每个Field的交叉赋予一个权重 r ,这种计算方式被称为FwFM(Field-weighted Factorization-Machine,带权重的域向量机)
参考来源
- 位置:《推荐系统全链路设计:原理解读与业务实践》第8章《精排层的样本选择和模型选择》(来源项目book-sources;extracted/推荐系统全链路设计:原理解读与业务实践/_epub-src/converter-master/example/312287/89.html;src-049)
- 结论依据:原文说明 FFM 引入域概念使每个特征对每域各有一个隐向量、参数增到 nfk;FmFM 用映射矩阵 W_ij 统一表达,并给出 FwFM/FvFM 为其特例及降维实验。
- 原始内容:同理,当 变为标量 r 乘以单位矩阵(如图8-7中的灰色矩阵左图)时,其就表征为每个Field的交叉赋予一个权重 r ,这种计算方式被称为FwFM(Field-weighted Factorization-Machine,带权重的域向量机)