知识卡片

普通读书笔记卡 · 9399.a · 生成模型:Tencent Hunyuan Hy

交叉验证与超参优化

理解等级:中级

模型选择面临一个难点:测试集要留作最终评估,那怎么判断哪个模型在未知数据上表现更好?办法是交叉验证——把训练数据进一步分成训练子集和验证子集,用验证子集评估模型的泛化能力,从而在不动用测试集的情况下做模型比较与调优。

与之配套的是超参优化。超参不是从数据里训练出来的参数,却是提升模型性能的关键调节旋钮;各算法的默认参数对具体任务往往并非最优,需要通过调参改进。交叉验证负责”公平评估”,超参优化负责”找更好的设置”,二者结合构成模型选择环节。第 6 章会展开具体做法。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《Python机器学习》第1章《1.3.2 选择预测模型类型并进行训练》(源文件:`../../book-sources/extracted/Python机器学习/_epub-src/OEBPS/Text/part0016.xhtml.xhtml) - 结论依据:原文提出"没用测试集如何判断模型泛化表现"的问题,给出交叉验证方案(训练集再分训练/验证子集),并定义超参为非数据训练得出、却是提升性能的关键。 - 原始内容:针对该问题,我们可以采用交叉验证技术,将训练数据集进一步分为训练子集和验证子集,从而对模型的泛化能力进行评估