← 返回刚才阅读的位置

知识卡片

操作参考卡 · 9442.c · 生成模型:Tencent Hunyuan Hy

小样本的K折交叉验证

理解等级:中级

当样本数据较多时,常按5∶2.5∶2.5或8∶1∶1随机抽取划分训练、验证、测试三集;但样本少时这样划分很难得到有效验证,此时改用K折交叉验证。操作上:先留一小部分数据做测试集,把其余N个样本全部打乱、均匀分成K份;训练时轮流选其中K-1份作训练集,剩下的1份作验证集,如此进行K轮,保证每份都当过一次验证集。计算时先求每轮的预测误差平方和,最后把K次的误差平方和除以K,用这个平均值作为挑选最优模型的依据。用途:在数据量有限的情况下仍能较充分地利用样本做验证,减少因单次划分带来的偶然性。边界:K折只解决小样本下的验证问题,测试集仍需单独留出;K的取值要权衡计算成本与验证稳定性。可迁移启发是资源受限时,用轮换而非固定切分来提升评估的可靠性。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 了解你手上的数据 3.1.2 数据集 · 查看原书依据

      当样本数据少的时候,不太适用上述的划分方式。无论按什么比例划分,样本数据太少很难有好的验证结果。在这种情况下,常用的方法是留一小部分数据做测试集,然后对其余N个样本采用K折交叉验证法。将所有样本数据打乱,然后均匀分成K份,每次训练时轮流选择其中K-1份进行训练,剩余的一份做验证集 ,

    参考来源

    - 位置:《产品经理进阶:100个案例搞懂人工智能 (林中翘)》第3章《了解你手上的数据》(源文件:`../../book-sources/extracted/产品经理进阶:100个案例搞懂人工智能 (林中翘)/_epub-src/OEBPS/text00008.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292) - 结论依据:原文给出小样本下K折交叉验证的具体步骤与K次预测误差平方和除以K的求法,支撑本卡操作流程。 - 原始内容:当样本数据少的时候,不太适用上述的划分方式。无论按什么比例划分,样本数据太少很难有好的验证结果。在这种情况下,常用的方法是留一小部分数据做测试集,然后对其余N个样本采用K折交叉验证法。将所有样本数据打乱,然后均匀分成K份,每次训练时轮流选择其中K-1份进行训练,剩余的一份做验证集 ,