知识卡片
训练语料错误会污染纠错模型
网络语料若含大量真实拼写错误,模型会把错误词频当成正常语言证据,进而拒绝纠正同类错误。可用校对语料、词典约束或结合相似词的上下文共现识别噪声;数据清洗能改善模型,但计算成本可能很高。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第14章 自然语言语料库数据 · 查看原书依据
语料库中使用的misspellings一词,拼写错误的概率达到了7%。
参考来源
- 位置:《数据之美》第14章《自然语言语料库数据》(源文件:../程序之美系列套装(6册)团队之美、项目管理之美、架构之美、数据之美、测试之美、安全之美/_epub-src/OEBPS/Text/part0395.xhtml)
- 结论依据:原文给出错误形式在语料中的频次并提出校对语料、词典约束及利用相近词上下文共现清洗等方案,也指出大规模清洗需要数百CPU小时。
- 原始内容:语料库中使用的misspellings一词,拼写错误的概率达到了7%。