知识卡片
数据收集的决策判据
运行基准后,改进系统时收集更多数据常比更换算法更有效,但要先判断是否有必要。先看训练集性能:若训练误差就高,说明欠拟合或数据质量问题,应增大模型、调学习率或改进数据,而非急着收集;若训练误差可接受但测试误差明显更高(过拟合),收集更多数据往往是有效方案,但需权衡成本与可行性(医疗数据往往昂贵或不可得)。还可用训练集规模—泛化误差曲线在对数尺度上外推,估算达到目标还需多少数据。若确实无法获取更多数据,只能转向改进学习算法本身来降低泛化误差。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第11章 实践方法论 · 查看原书依据
怎样判断是否要收集更多的数据?首先,确定训练集上的性能是否可接受。如果模型在训练集上的性能就很差,学习算法都不能在训练集上学习出良好的模型,那么就没必要收集更多的数据。
参考来源
- 位置:《深度学习》第11章 实践方法论(源文件:extracted/深度学习/_epub-src/text/part0004.html)
- 结论依据:原文提出先查训练集性能、再查测试集性能的判据,并建议用学习曲线估计所需数据量。
- 原始内容:怎样判断是否要收集更多的数据?首先,确定训练集上的性能是否可接受。如果模型在训练集上的性能就很差,学习算法都不能在训练集上学习出良好的模型,那么就没必要收集更多的数据。