原书出处
大语言模型-基础与前沿 (熊涛)
02 第2章 语言模型和分词
法,并且也包含在以w开头的所有二元语法的计数中。因此,二元语法计数的总和不应超过单元语法计数。 n−1n−1n−1n−1
虽然MLE在NLP中得到广泛应用,但是它也有一些局限性。例如,如果语料库中没有出现特定的n元语法,则其MLE概率将为零,这对于某些应用程序来说是有问题的。
为了解决这个问题,研究人员已经提出了各种平滑技术,例如拉普拉斯(Laplace)平滑、古德-图灵(Good-Turing
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/大语言模型-基础与前沿 (熊涛)/_epub-src/EPUB/xhtml/chapter4.xhtml
EPUB SHA-256:1bd3e387da1e881a4b6e0214f2c7df6e30d5cdbd1f602c69fc88edacffe6743d