知识卡片
万物皆可嵌入
嵌入(Embedding)的本质是用一个低维向量来表示某个物体,这个物体可以是一个词、一句话、一件商品、一个动作乃至一本书。它之所以重要,是因为这些对象是机器学习最常见的输入,而向量化表示让模型能够计算它们之间的关系。应用早已超出自然语言处理,延伸到搜索排序、推荐、知识图谱等传统机器学习领域。演进有两条主线:对象上从 Word Embedding 扩展到 Item Embedding、Graph Embedding、Categorical Embedding;形态上从静态向量扩展到 ELMo、BERT 等动态预训练模型。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第1章 万物皆可嵌入 · 查看原书依据
简单来说,嵌入是用向量表示一个物体,这个物体可以是一个单词、一条语句、一个序列、一件商品、一个动作、一本书、一部电影等,可以说嵌入涉及机器学习、深度学习的绝大部分对象。
参考来源
- 位置:《深入浅出Embedding:原理解析与应用实践 (吴茂贵, 王红星)》第1章 万物皆可嵌入(源文件:extracted/深入浅出Embedding:原理解析与应用实践 (吴茂贵, 王红星)/_epub-src/OEBPS/Text/Chapter4.xhtml)
- 结论依据:开篇明确把嵌入定义为“用向量表示一个物体”,列举了从单词到电影的广泛对象,并勾勒出由静态向动态、由 NLP 向推荐与图谱延伸的两条主线。
- 原始内容:简单来说,嵌入是用向量表示一个物体,这个物体可以是一个单词、一条语句、一个序列、一件商品、一个动作、一本书、一部电影等,可以说嵌入涉及机器学习、深度学习的绝大部分对象。