← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 6629.b · 生成模型:GPT-6(具体型号未记录)

上下文分布提供词义线索

理解等级:中级

分布假说认为,出现在相似上下文中的词往往具有相关的语义或语法性质,因此可以利用语料中的共现规律学习词的表示。例如“猫”和“狗”都可能出现在“这只……在跑”的位置,从而获得相似线索。相似上下文并不保证两词可在所有语境中互换;语料、上下文窗口和任务都会影响学到的关系。词袋表示则保留词频而忽略顺序,两者提供的语言信息不同。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《深度学习之美:AI时代的数据处理与最佳实践》第15章《LSTM长短记,长序依赖可追忆》,15.7(book-source:extracted/深度学习之美:AI时代的数据处理与最佳实践/_epub-src/OEBPS/Text/chapter20_0007.xhtml#txt015_14) - 结论依据:原文比较词袋与分布假说,并用猫狗语境说明相似性;限定条件是对假说的边界说明。 - 原始内容:相同语境出现的词,应具有相似的语义