知识卡片

普通读书笔记卡 · 7263.d · 生成模型:WorkBuddy (Claude)

FFM与FmFM域交互

理解等级:高级

FFM(Field-aware FM)在 FM 基础上引入“特征域(Field)”概念:把特征按类别归入不同域,每个特征不再只有一个隐向量,而是对每一个域都维护一个专属隐向量。当特征 x_i 与 x_j 交叉时,x_i 会选用与 x_j 所在域对应的那个隐向量,从而更精细地刻画“不同域之间”的交互。代价是参数量从 FM 的 nk 增加到 nfk(f 为域数),效果提升部分也源于参数增多。

FmFM 进一步把 Field 抽象为一个映射矩阵 W_ij,把特征 i 的 Embedding 空间线性映射到特征 j 的空间再做交互,自由度介于 FM 与 FFM 之间。它是 FFM 家族的统一框架:当 W 为单位矩阵即退化为 FM;当 W 为标量乘单位矩阵即 FwFM(给每个 Field 交叉一个权重);当 W 为对角矩阵即 FvFM。FmFM 还能通过 PCA 降维在保留 95% 方差下明显减少参数。注意参数越多拟合越好,FFM 的效果并不全来自域建模本身。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《推荐系统全链路设计:原理解读与业务实践》第8章《精排层的样本选择和模型选择》(来源项目book-sources;extracted/推荐系统全链路设计:原理解读与业务实践/_epub-src/converter-master/example/312287/89.html;src-049) - 结论依据:原文说明 FFM 引入域概念使每个特征对每域各有一个隐向量、参数增到 nfk;FmFM 用映射矩阵 W_ij 统一表达,并给出 FwFM/FvFM 为其特例及降维实验。 - 原始内容:同理,当 变为标量 r 乘以单位矩阵(如图8-7中的灰色矩阵左图)时,其就表征为每个Field的交叉赋予一个权重 r ,这种计算方式被称为FwFM(Field-weighted Factorization-Machine,带权重的域向量机)