知识卡片
自助法误差的两种修正
直接估计之所以乐观,是因为训练样本同时充当测试集。改进照搬交叉验证:对每个样本点 i,只用不包含 i 的那些 Bootstrap 集(记 C{−i},共 |C{−i}| 个)建模来预测 i,再对 i 平均,得留一 Bootstrap 误差估计;B 要足够大以保证 |C_{−i}| 不为零,或干脆剔除为零的项。但它又引入反向偏差:每个 Bootstrap 集只含约 0.632n 个不同样本,相当于约 2 折交叉验证,若学习曲线在该处斜率大就会高估误差。0.632 估计用权重把两者调和。若过拟合严重,0.632 又会变差,故引入无信息误差率 γ(把 x 与 y 任意组合后模型的最低误差)与相对过拟合率 R,R 在 0 与 1 之间,据此定义 0.632+ 估计,权重随 R 在 0.632 与 1 之间移动。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第4章 模型评价与选择 · 查看原书依据
每一个Bootstrap 样本集包含原数据集中不重复样本点的个数大约是0.632n,某种程度上相当于2折交叉验证
参考来源
- 位置:《大数据挖掘与统计机器学习》第4章 模型评价与选择(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter6_0003.xhtml,4.3.2 自助法)
- 结论依据:原文给出留一 Bootstrap 估计、0.632n 相当于约 2 折交叉验证的说法,以及无信息误差率、相对过拟合率与 0.632+ 估计的定义思路。
- 原始内容:每一个Bootstrap 样本集包含原数据集中不重复样本点的个数大约是0.632n,某种程度上相当于2折交叉验证