知识卡片
测试划分还要检查词表来源
示例700句按下标逢10取1得70测试、630训练,但tag_set和symbols先从全部700句构造,因此测试标签/词已影响模型空间。若目标是评估严格未知词泛化,应只用训练数据建立词表或明确转导设置;按位置规律切分也未必代表独立分布。evaluate通常报告逐词标签准确率,不能据90/10比例本身认定评估可靠。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第2章 统计语言建模 2.1.2 隐马尔科夫模型估计 · 查看原书依据
if i % 10
参考来源
- 位置:《Python编程精进(第1辑)(套装共3册)(异步图书)》精通Python自然语言处理 · 第2章 统计语言建模,spine056单元006;来源项目book-sources,extracted/Python编程精进(第1辑)(套装共3册)(异步图书)/_epub-src/OEBPS/text00055.html。
- 结论依据:原文先取全corpus的tag_set/symbols,再分train/test的顺序支撑测试参与空间设定的判断;未声称测试标签用于参数计数。未在本机运行示例或改变环境。
- 原始内容:range(len(corpus)): if i % 10: train_corpus += [corpus[i]] else: test_corpus += [corpus[i]] >>> print(len(train_co