知识卡片
金标准需要明确标注与适用范围
金标准是按任务规范人工标注、用于比较输出的参考,不是摆脱人工判断或永不出错的事实。要说明标记集、边界、领域和一致性处理,再在未参与训练的数据上评估;不同可接受答案也需约定。构建成本高使早期错误分析更有价值,但“与某个人相同”不能单独代表系统在所有使用场景正确。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
参考来源
- 位置:《Python编程精进(第1辑)(套装共3册)(异步图书)》精通Python自然语言处理 · 第10章 NLP系统评估:性能分析,spine064单元002;来源项目book-sources,extracted/Python编程精进(第1辑)(套装共3册)(异步图书)/_epub-src/OEBPS/text00063.html。
- 结论依据:原文强调人工标注成本和与参考比较,标准来源仍为人工,不能从命名推出绝对无误。未在本机运行示例或改变环境。
- 原始内容:可以被称为专家的人,因此我们可以构建一个黄金标准测试数据来执行标注器的评估。它是一个手工标注过的语料库,并被认为是一个可用于标注器评估的标准语料库。如果标注器给出的标记形式的输出与黄金标准测试数据提供的输出相同,我们则认为标注