知识卡片

普通读书笔记卡 · 9906 · 生成模型:Hunyuan

Embedding本质与词向量

理解等级:初级

Embedding是用一个低维稠密向量表示一个对象,这个对象可以是词、商品或电影。表示的含义有两层:向量本身编码了对象的某些特征,向量之间的距离则反映对象之间的相似程度。在词向量空间里,语义相近的词彼此靠近,而且向量运算还能携带语义关系,例如king到queen与man到woman的位移几乎一致,Madrid减去Spain近似等于Beijing减去China。这意味着即便不知道某个词的向量,也能靠语义关系与向量加减把它推断出来。把这套思路迁移到推荐场景,商品、电影、用户都可以被映射成向量,训练样本从文本语料换成观看序列或购买历史即可。它的价值在于把稀疏的离散对象变成可计算、可比较的稠密表示。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第4章 Embedding技术在推荐系统中的应用 · 查看原书依据

      通过上面的例子可以知道,在词向量空间内,甚至在完全不知道一个词的向量的情况下,仅靠语义关系加词向量运算就可以推断出这个词的词向量。Embedding就是这样从另外一个空间表达物品,同时揭示物品之间的潜在关系的,某种意义上讲,Embedding方法甚至具备了本体论哲学层面上的意义。

    参考来源

    - 位置:《深度学习推荐系统》第4章 Embedding技术在推荐系统中的应用(源文件:extracted/深度学习推荐系统/_epub-src/text/part0008_split_001.html) - 结论依据:原文以词向量的性别、词性和首都国家三类类比为例,说明Embedding向量间的运算能够保留并揭示对象间的潜在关系,并把它推广到电影和商品的向量化。 - 原始内容:通过上面的例子可以知道,在词向量空间内,甚至在完全不知道一个词的向量的情况下,仅靠语义关系加词向量运算就可以推断出这个词的词向量。Embedding就是这样从另外一个空间表达物品,同时揭示物品之间的潜在关系的,某种意义上讲,Embedding方法甚至具备了本体论哲学层面上的意义。