知识卡片
上下文分布提供词义线索
分布假说认为,出现在相似上下文中的词往往具有相关的语义或语法性质,因此可以利用语料中的共现规律学习词的表示。例如“猫”和“狗”都可能出现在“这只……在跑”的位置,从而获得相似线索。相似上下文并不保证两词可在所有语境中互换;语料、上下文窗口和任务都会影响学到的关系。词袋表示则保留词频而忽略顺序,两者提供的语言信息不同。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- LSTM长短记,长序依赖可追忆 15.7 · 查看原书依据
相同语境出现的词,应具有相似的语义
参考来源
- 位置:《深度学习之美:AI时代的数据处理与最佳实践》第15章《LSTM长短记,长序依赖可追忆》,15.7(book-source:extracted/深度学习之美:AI时代的数据处理与最佳实践/_epub-src/OEBPS/Text/chapter20_0007.xhtml#txt015_14)
- 结论依据:原文比较词袋与分布假说,并用猫狗语境说明相似性;限定条件是对假说的边界说明。
- 原始内容:相同语境出现的词,应具有相似的语义