← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 3847.b.4

训练语料错误会污染纠错模型

理解等级:高级

网络语料若含大量真实拼写错误,模型会把错误词频当成正常语言证据,进而拒绝纠正同类错误。可用校对语料、词典约束或结合相似词的上下文共现识别噪声;数据清洗能改善模型,但计算成本可能很高。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《数据之美》第14章《自然语言语料库数据》(源文件:../程序之美系列套装(6册)团队之美、项目管理之美、架构之美、数据之美、测试之美、安全之美/_epub-src/OEBPS/Text/part0395.xhtml) - 结论依据:原文给出错误形式在语料中的频次并提出校对语料、词典约束及利用相近词上下文共现清洗等方案,也指出大规模清洗需要数百CPU小时。 - 原始内容:语料库中使用的misspellings一词,拼写错误的概率达到了7%。