知识卡片
样本内误差与乐观度
讨论误差估计先要弄清哪个量固定、对哪个分布取期望。样本内误差 Err_in 指:新的只是 n 个因变量 y0,自变量仍是训练时的 x_i;而样本外误差(测试误差)连自变量都可以不同。乐观度定义为 op=Err_in−训练误差,恒大于零,因为训练误差低估误差。对它取期望得平均乐观度 ω=E_y(op),注意期望只对 y 取而非对训练集取,因为 x 是固定的,这也是用 E_y 而不用 E_T 的原因。ω 的一般表达式显示:低估程度取决于 y_i 与其预测值 ŷ_i 的相关程度,模型拟合越充分,二者相关越强,乐观度越大——这解释了为什么越复杂的模型训练误差「骗人」越厉害。于是 Err_in=训练误差+ω,估误差就变成估 ω。Cp、AIC、BIC 都走这条路。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第4章 模型评价与选择 · 查看原书依据
因此,-低估样本内误差的程度取决于yi和它的预测值 的相关程度。模型拟合越充分,yi和它的预测值的相关程度越大,乐观度的值也就越大。
参考来源
- 位置:《大数据挖掘与统计机器学习》第4章 模型评价与选择(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter6_0002.xhtml,4.2.1 Cp 统计量)
- 结论依据:原文定义样本内误差与乐观度,指出 op 大于零、平均乐观度对 y 取期望,并给出 Err_in 等于训练误差加 ω 的重要公式。
- 原始内容:因此,-低估样本内误差的程度取决于yi和它的预测值 的相关程度。模型拟合越充分,yi和它的预测值的相关程度越大,乐观度的值也就越大。