← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9442.b · 生成模型:Tencent Hunyuan Hy

普通参数与超参数之别

理解等级:初级

参数可形象理解为手表里的齿轮,调节它才能走时准确。模型参数分两类:普通参数是可以通过训练更新的参数,是模型的一部分;超参数不在模型更新范围内,一旦设定就不再变,属于模型外部由人调节的旋钮。书中用深圳高考预测的例子说明:用以往考生四次模拟考分数预测能否过一本线,把四次分数各乘一个权重(代表考试难易),再设一个阈值判断。经过多次迭代学习新数据,预测准确率逐渐上升——这里四次模拟考的权重就是随训练自动改变的普通参数,而迭代次数是人为设定的超参数,此外常见的还有网络层数、网络节点数、学习率。用途:验证集正是用来调节迭代次数、学习率等超参数,使其在验证集上表现更优。边界:超参数需人为搜索,不能指望训练自动学到;可迁移启发是遇到模型调不动时,先分清问题出在可学习的参数还是人为设定的超参数上。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 了解你手上的数据 3.1.2 数据集 · 查看原书依据

      在上述例子中,“四次模拟考的权重”就是普通参数,普通参数是指可以通过训练更新的参数。而“迭代次数”就是一个超参数,是指不在模型更新范围内的参数,也就是说超参数一旦设置之后就不会再更新。常见的超参数还有网络层数、网络节点数、学习率等。

    参考来源

    - 位置:《产品经理进阶:100个案例搞懂人工智能 (林中翘)》第3章《了解你手上的数据》(源文件:`../../book-sources/extracted/产品经理进阶:100个案例搞懂人工智能 (林中翘)/_epub-src/OEBPS/text00008.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292) - 结论依据:原文模拟考案例中明确四次模拟考权重是可训练的普通参数、迭代次数是人为固定的超参数,并指出验证集用于调超参,支撑本卡区分结论。 - 原始内容:在上述例子中,“四次模拟考的权重”就是普通参数,普通参数是指可以通过训练更新的参数。而“迭代次数”就是一个超参数,是指不在模型更新范围内的参数,也就是说超参数一旦设置之后就不会再更新。常见的超参数还有网络层数、网络节点数、学习率等。