知识卡片

普通读书笔记卡 · 9282 · 生成模型:GPT-6

序列概率链式分解不同于近似

理解等级:中级

联合序列概率可精确写成首词概率乘后续条件概率,每项条件是此前完整历史。将历史缩成有限窗口是额外建模假设,不是链式法则本身,也不必先知道每个前词的边缘概率才能计算该条件项。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      由上式可知,要计算得到词W i 的出现概率,必须要知道在W i 之前所有词的出现概率。这显然不可行,也没有意义。但是如果任意一个词W i 的出现概率只与它相邻的一个词有关,那么问题的解决即可得到极大的简化。这时的语言模型叫作二元模型,也称为

    参考来源

    - 位置:《NLP汉语自然语言处理原理与实践 (郑捷)》第03章《词汇与分词技术》(来源项目:a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/NLP汉语自然语言处理原理与实践 (郑捷)/_epub-src/OEBPS/text00008.html) - 结论依据:摘录中关于序列概率链式分解不同于近似的定义、比较或条件支撑卡片;原书表述不严谨的范围已在覆盖记录逐项限定,不把案例结果外推为普遍结论。 - 原始内容:由上式可知,要计算得到词W i 的出现概率,必须要知道在W i 之前所有词的出现概率。这显然不可行,也没有意义。但是如果任意一个词W i 的出现概率只与它相邻的一个词有关,那么问题的解决即可得到极大的简化。这时的语言模型叫作二元模型,也称为