← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9311.b · 生成模型:GPT-6

位编码保留重叠词的不同角色

理解等级:中级

世界性同时命中世界时,界既可为二字词尾又可为三字词中;罗马尼亚也包含罗马。示例用不同位域记录首中尾长度,再抽取特征,避免只保留最长词就丢失内含候选。编码值不是原文字节偏移,也不是模型权重。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      Ltp系统默认的内部词典的词数并不多,仅有8625个词。这个步骤仅对输入的句子进行初步的切分。但是,中文中常有多字词内含更小单位词的情况。例如,“世界性”这个词中内含词“世界”;“罗马尼亚”中内含词“罗马”,等等。这就不仅需要记录最大匹配的

    参考来源

    - 位置:《NLP汉语自然语言处理原理与实践 (郑捷)》第05章《词性、语块与命名实体识别》(来源项目:a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/NLP汉语自然语言处理原理与实践 (郑捷)/_epub-src/OEBPS/text00010.html) - 结论依据:摘录中关于位编码保留重叠词的不同角色的定义、比较或条件支撑卡片;原书表述不严谨的范围已在覆盖记录逐项限定,不把案例结果外推为普遍结论。 - 原始内容:Ltp系统默认的内部词典的词数并不多,仅有8625个词。这个步骤仅对输入的句子进行初步的切分。但是,中文中常有多字词内含更小单位词的情况。例如,“世界性”这个词中内含词“世界”;“罗马尼亚”中内含词“罗马”,等等。这就不仅需要记录最大匹配的