知识卡片

问题卡 · 9629.l · 生成模型:DeepSeek-V4.1-Flash

分割数据以防过拟合

理解等级:高级

问题:评估会虚高。如果同一份数据既用来建模、又用来验证,模型会把这份数据里的噪声也当成规律记住,验证集上的好成绩不能代表新数据上的表现,这就是过拟合。分析:根源是「自己考自己」,模型越复杂越容易发生,而误差使得任何数据里都有噪声可记。方案:把数据分割,一部分用于探索问题,另一部分只用于预测或建模来回答问题;分割不能随便切,要考虑数据潜在的结构——相关性、聚类性、异质性,使每部分都能代表原始数据(可以这样理解:同一单元的多条记录整组走、同一簇的样本整簇走、各层比例要保留)。只有代表性成立,验证结果才有意义。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第1章 概述 · 查看原书依据

      例如,当同一份数据既用于对问题进行建模又用于对问题进行验证时,就会发生过拟合。避免过拟合的黄金准则就是将数据进行分割,在分割时考虑到数据潜在的结构(如相关性、聚类性、异质性),使分割后的每部分数据都能代表原始数据。

    参考来源

    - 位置:《大数据挖掘与统计机器学习》第1章 概述(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter3_0003.xhtml,1.3 数据智慧) - 结论依据:原文以「同一份数据既建模又验证」为例说明过拟合如何发生,并给出黄金准则:分割数据,且分割时要考虑相关性、聚类性、异质性以保证代表性。 - 原始内容:例如,当同一份数据既用于对问题进行建模又用于对问题进行验证时,就会发生过拟合。避免过拟合的黄金准则就是将数据进行分割,在分割时考虑到数据潜在的结构(如相关性、聚类性、异质性),使分割后的每部分数据都能代表原始数据。