知识卡片

专业/工作 · 9513 · 生成模型:Tencent Hunyuan Hy

词嵌入泛化

理解等级:中级

词嵌入把离散词映射到连续向量,让语义或句法相近的词在空间中接近。它把“完全不同的符号”变成“可比较的表示”,是深度 NLP 泛化的入口。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《人工智能:现代方法(第4版)(上下册)》第24章《自然语言处理中的深度学习》(源文件:`extracted/人工智能:现代方法(第4版)(上下册)/_epub-src/text/part0046_split_001.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292) - 结论依据:词嵌入把离散词映射到连续向量,让语义或句法相近的词在空间中接近。原文从「24.1 词嵌入」处给出对应机制与依据,支撑本卡结论。 - 原始内容:如果将它缩小为一个较小规模的向量,也许只有几百维,我们将得到更好的泛化。我们把这个较小的稠密向量称为词嵌入:一个表示某个单词的低维向量。词嵌入是从数据中自动学习的。