知识卡片
分割数据以防过拟合
问题:评估会虚高。如果同一份数据既用来建模、又用来验证,模型会把这份数据里的噪声也当成规律记住,验证集上的好成绩不能代表新数据上的表现,这就是过拟合。分析:根源是「自己考自己」,模型越复杂越容易发生,而误差使得任何数据里都有噪声可记。方案:把数据分割,一部分用于探索问题,另一部分只用于预测或建模来回答问题;分割不能随便切,要考虑数据潜在的结构——相关性、聚类性、异质性,使每部分都能代表原始数据(可以这样理解:同一单元的多条记录整组走、同一簇的样本整簇走、各层比例要保留)。只有代表性成立,验证结果才有意义。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 第1章 概述
原书出处 · 1 处
- 第1章 概述 · 查看原书依据
例如,当同一份数据既用于对问题进行建模又用于对问题进行验证时,就会发生过拟合。避免过拟合的黄金准则就是将数据进行分割,在分割时考虑到数据潜在的结构(如相关性、聚类性、异质性),使分割后的每部分数据都能代表原始数据。
参考来源
- 位置:《大数据挖掘与统计机器学习》第1章 概述(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter3_0003.xhtml,1.3 数据智慧)
- 结论依据:原文以「同一份数据既建模又验证」为例说明过拟合如何发生,并给出黄金准则:分割数据,且分割时要考虑相关性、聚类性、异质性以保证代表性。
- 原始内容:例如,当同一份数据既用于对问题进行建模又用于对问题进行验证时,就会发生过拟合。避免过拟合的黄金准则就是将数据进行分割,在分割时考虑到数据潜在的结构(如相关性、聚类性、异质性),使分割后的每部分数据都能代表原始数据。