知识卡片
Embedding衍生与交叉
根据已有 Embedding 衍生新表示,类似特征工程中的组合与衍生,常用手段有拼接、线性组合、交叉组合。交叉运算按粒度可分:bit-wise、element-wise 属元素级运算,vector-wise 属向量级运算。这类方法在推荐系统中运用广泛:xDeepFM 由三部分构成,Linear 捕捉线性特征,CIN 显式地、向量级地学习高阶交叉,DNN 隐式地、元素级地学习高阶交叉;AutoInt(2019)借鉴 Transformer 的多头自注意力显式学习高阶特征交叉,思路与 DCN、xDeepFM 相似,还带来可解释性,让模型知道哪些特征交叉更重要。理解粒度与显式/隐式的区别,是为推荐场景选择交叉结构的关键。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第16章 Embedding技术总结 · 查看原书依据
Embedding(bit-wise)、Embedding(element-wise)、Embedding(vector-wise)都是生成交叉特征的几种方式,前两者属于元素级运算,后者属于向量级运算。
参考来源
- 位置:《深入浅出Embedding:原理解析与应用实践 (吴茂贵, 王红星)》第16章 Embedding技术总结(源文件:extracted/深入浅出Embedding:原理解析与应用实践 (吴茂贵, 王红星)/_epub-src/OEBPS/Text/Chapter20_0001.xhtml)
- 结论依据:原文 16.1.3 节给出拼接、线性组合、交叉组合等衍生方法,区分元素级与向量级运算,并以 xDeepFM 三部分结构和 AutoInt 的多头自注意力作具体说明。
- 原始内容:Embedding(bit-wise)、Embedding(element-wise)、Embedding(vector-wise)都是生成交叉特征的几种方式,前两者属于元素级运算,后者属于向量级运算。