← 返回卡片

原书出处

大语言模型-基础与前沿 (熊涛)

02 第2章 语言模型和分词

核验版本的摘录快照 · 导入于 2026-11-18T14:25:08.825Z

法,并且也包含在以w开头的所有二元语法的计数中。因此,二元语法计数的总和不应超过单元语法计数。 n−1n−1n−1n−1

虽然MLE在NLP中得到广泛应用,但是它也有一些局限性。例如,如果语料库中没有出现特定的n元语法,则其MLE概率将为零,这对于某些应用程序来说是有问题的。

为了解决这个问题,研究人员已经提出了各种平滑技术,例如拉普拉斯(Laplace)平滑、古德-图灵(Good-Turing

此预览只包含定位所需的摘录和上下文。

原书定位详情

来源:a19c7933-4eda-4176-aebd-30fe7e1ad292

正文位置:extracted/大语言模型-基础与前沿 (熊涛)/_epub-src/EPUB/xhtml/chapter4.xhtml

EPUB SHA-256:1bd3e387da1e881a4b6e0214f2c7df6e30d5cdbd1f602c69fc88edacffe6743d