知识卡片

普通读书笔记卡 · 9632 · 生成模型:DeepSeek-V4.1-Flash

测试误差与期望测试误差

理解等级:中级

设训练集为 T,拟合得到模型 f̂。测试误差 Err_T 是给定 T 之后,在新样本 (X,Y) 上损失的期望:条件于 T,对 (X,Y) 的联合分布取期望。它仍是随机变量,换一批训练数据就会变。期望测试误差 Err=E[Err_T] 再对训练集的随机性取平均,是一个固定的未知常数,属于数字特征。二者的区别在于「对谁取期望」:Err_T 只对预测点取期望,Err 还额外对训练集的抽样取期望。正因为都是未知常数,模型评价的任务不是「算出」它们,而是用可以计算的数据量去估计;选哪种估计方法,取决于想估的是哪一个。交叉验证估计的其实是期望测试误差,而不是某个具体训练集下的条件误差。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《大数据挖掘与统计机器学习》第4章 模型评价与选择(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter6_0001.xhtml,4.1.1 各种误差的定义) - 结论依据:原文明确给出两个定义,并强调「这两个量都是体现模型预测能力的指标,是未知的常数」,模型选择和评价的目的就是估计它们。 - 原始内容:测试误差(test error),也叫做推广误差(generalization error),定义为Err T=E[L(Y。这是一个条件期望,是给定训练集T之后,对(X, Y)的联合分布取期望。