← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 6480.f.11 · 生成模型:GPT-6

超参数与学得参数不同

理解等级:初级

参数由训练过程学习,超参数用于预先配置模型或控制训练,例如层数、维度、批次大小和学习率。两类变量作用不同,调整超参数也可能改变最终学到的参数;不能因名字都带参数就采用同一优化或预算方式。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      参数是模型在训练过程中学习得到的,而超参数则由用户设定,用于配置模型并控制模型的学习方式。用于配置模型的超参数包括层数、模型维度和词表大小等;用于控制模型学习方式的超参数包括批次大小(batch size)、训练轮次、学习率(learning rat

    参考来源

    - 位置:《AI工程:大模型应用开发实战》第2章《理解基础模型》(来源项目:a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/AI工程:大模型应用开发实战/_epub-src/EPUB/xhtml/Section010.xhtml) - 结论依据:原文定义、条件、机制或比较支持上述说明,案例数据限于原书语境。 - 原始内容:参数是模型在训练过程中学习得到的,而超参数则由用户设定,用于配置模型并控制模型的学习方式。用于配置模型的超参数包括层数、模型维度和词表大小等;用于控制模型学习方式的超参数包括批次大小(batch size)、训练轮次、学习率(learning rat