知识卡片
大语料简化平滑
大语料让未见的词序组合更少,N元模型可用“愚蠢回退”等简单方法处理残余稀疏性。数据规模变化可能使过去复杂的平滑策略不再必要。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 大语料简化平滑
原书出处 · 1 处
- 第14章 自然语言语料库数据 · 查看原书依据
既然有非常大的语料库,那么我们可以使用类似“愚蠢回退”的方法,而不再过于担心平滑模型。
参考来源
- 位置:《数据之美》第14章《自然语言语料库数据》(源文件:../程序之美系列套装(6册)团队之美、项目管理之美、架构之美、数据之美、测试之美、安全之美/_epub-src/OEBPS/Text/part0397.xhtml)
- 结论依据:原文把大语料和简单回退联系起来,并据此指出无需过度依赖复杂平滑;结论限定在本章概率语言模型语境。
- 原始内容:既然有非常大的语料库,那么我们可以使用类似“愚蠢回退”的方法,而不再过于担心平滑模型。