知识卡片
词嵌入泛化
词嵌入把离散词映射到连续向量,让语义或句法相近的词在空间中接近。它把“完全不同的符号”变成“可比较的表示”,是深度 NLP 泛化的入口。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 自然语言处理中的深度学习 24.1 词嵌入 · 查看原书依据
如果将它缩小为一个较小规模的向量,也许只有几百维,我们将得到更好的泛化。我们把这个较小的稠密向量称为词嵌入:一个表示某个单词的低维向量。词嵌入是从数据中自动学习的。
参考来源
- 位置:《人工智能:现代方法(第4版)(上下册)》第24章《自然语言处理中的深度学习》(源文件:`extracted/人工智能:现代方法(第4版)(上下册)/_epub-src/text/part0046_split_001.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292)
- 结论依据:词嵌入把离散词映射到连续向量,让语义或句法相近的词在空间中接近。原文从「24.1 词嵌入」处给出对应机制与依据,支撑本卡结论。
- 原始内容:如果将它缩小为一个较小规模的向量,也许只有几百维,我们将得到更好的泛化。我们把这个较小的稠密向量称为词嵌入:一个表示某个单词的低维向量。词嵌入是从数据中自动学习的。