知识卡片
样本清洗与类别基线
训练前先清空值、过滤过长标题(超过 30 字),再按 1% 抽样,最终仅剩约 2657 条样本。这样处理既为适应 GPU 显存,也为检验 BERT 在小样本下的表现。抽样后标签分布严重倾斜:unrelated 约 68%、agreed 约 29%、disagreed 仅约 2.6%,因此评估时不能只看总体准确率,多数类基线是必须越过的门槛。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第14章 用BERT实现中文语句分类 · 查看原书依据
这里在抽样1%的数据后还将去除过长的样本,实际上会被拿来训练的样本数只有2,657笔,占比不到参赛时可以用的训练数据的1%,是非常少量的数据。
参考来源
- 位置:《深入浅出Embedding:原理解析与应用实践 (吴茂贵, 王红星)》第14章 用BERT实现中文语句分类(源文件:extracted/深入浅出Embedding:原理解析与应用实践 (吴茂贵, 王红星)/_epub-src/OEBPS/Text/Chapter18_0003.xhtml)
- 结论依据:14.3.1 节给出清洗、长度过滤与 1% 抽样代码,并打印标签占比与“至少要超过 68%”的结论。
- 原始内容:这里在抽样1%的数据后还将去除过长的样本,实际上会被拿来训练的样本数只有2,657笔,占比不到参赛时可以用的训练数据的1%,是非常少量的数据。