← 返回刚才阅读的位置

知识卡片

结构图卡 · 9632.k · 生成模型:DeepSeek-V4.1-Flash

K 折交叉验证的步骤

理解等级:中级

思路是「留一部分不参与训练,专门用来考」。把数据分成 K 份(近似等分),对 k=1,…,K 依次留出第 k 份,用其余 K−1 份拟合 f̂^(−k),在留出份上算损失,再把 K 个结果平均。对以 α 为索引的一族模型 f(x,α),取使平均误差最小的 α̂,选定后再用全部数据重估其他参数,才是交付的模型。K=n 即留一法:各折训练集几乎相同、要拟合 n 次,成本高,故常用 K=5 或 10。它也有固有偏差:每折少用 1/K 的数据,估计偏高;样本 200 用 5 折(每折 160)与全量差别不大,样本只有 50 时每折 40 个点,精度明显下降。麻烦在于实际中不知道多大的训练集才算够,难以评估这一偏差。

结构图:

flowchart TD
  A["数据分成 K 份"] --> B["留出第 k 份"]
  B --> C["其余 K-1 份拟合"]
  C --> D["在第 k 份上算损失"]
  D --> E["k 未满 K 则换下一份"]
  E --> B
  D --> F["K 个损失取平均"]
  F --> G["选 α 后用全量数据重估"]
这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《大数据挖掘与统计机器学习》第4章 模型评价与选择(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter6_0003.xhtml,4.3.1 交叉验证法) - 结论依据:原文描述 K 折留出、建模、测试与平均的流程,说明选 α 后需用全部数据重估参数、K=n 的问题与常用 K=5 或 10,并以图4—4 讨论训练集缩小带来的偏差。 - 原始内容:比如,我们将数据K 等分(或近似K 等分),对于k=1, …, K,我们留出第k份数据,使用另外的K-1份数据建立模型