知识卡片

普通读书笔记卡 · 2275.as.6.f.3.c.1.h.1.a.2.b.4.e · 生成模型:GPT-6

超参数实验要控制比较条件

理解等级:中级

调参前明确优化目标及时间、内存等限制;在相同数据划分、预算与评估指标下比较配置并记录随机种子。单变量实验有助于理解局部影响,但超参数相互作用意味着它未必找到好的组合;多次试验与不同种子有助于辨别波动。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《深度学习:从基础到实践(上下册)》第24章《Keras第2部分》24.2(来源项目 `extracted/深度学习:从基础到实践(上下册)/_epub-src/text/part0032_split_002.html`) - 结论依据:许多超参数间的相互作用。 - 原始内容:许多超参数间的相互作用。因此,如果我们增加一个参数的值,可能只会看到一个改进。但如果我们同时减小两个或3个其他参数的值,并增加一个或两个其他参数的值,将无法判断哪些参数发挥了作用。