← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9632.m · 生成模型:DeepSeek-V4.1-Flash

自助法抽样与0.632

理解等级:中级

自助法(bootstrap)从训练集 Z=(z_1,…,z_n) 中等概率、有放回地抽取 n 个样本,得到 Bootstrap 数据集 Z。等概率指每次抽取时每个原样本被抽中概率为 1/n;有放回指抽中后不把该样本从池中移除,后面还可能再被抽中。于是 Z 中某些点出现多次,某些点一次也不出现;样本点 i 出现在 Z* 中的概率为 1−(1−1/n)^n,n 大时趋于 1−e^−1≈0.632。这等价于从数据的经验分布中抽样。重复 B 次得到 B 个 Z_b,就能估计任意统计量 S(Z) 的分布,例如其方差与标准误。把它用于误差估计要注意:用 Z 拟合、再在原始数据上测试,训练集与测试集高度重叠,会严重低估误差。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《大数据挖掘与统计机器学习》第4章 模型评价与选择(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter6_0003.xhtml,4.3.2 自助法) - 结论依据:原文说明等概率有放回抽样、样本点出现概率、可重复 B 次估计统计量分布,并指出直接用 Z* 拟合在原数据上测试会造成低估与过度乐观。 - 原始内容:等概率是指每次抽取新样本时,原来每个样本被抽中的概率为1/n。有放回是指每次样本被抽中之后,并不从初始的训练样本中移除,下次仍有机会被抽中