知识卡片
学习率是超参数
学习率决定每次参数更新的尺度,是学习前人为设定的超参数。相同梯度下学习率越大,参数变化越大;更新次数也是可以人为设定的超参数。学习率不是模型从数据中直接找到的权重。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 机器学习基础 1.1 案例学习 · 查看原书依据
● 学习率(learning rate).学习率可以自行设定,如果设大一点,每次参数更新就会量大,学习可能就比较快;如果设小一点,参数更新就很慢,每次只改变一点点参数的值.
参考来源
- 位置:《深度学习详解》第1章《机器学习基础》1.1 节(来源项目 book-source:`extracted/深度学习详解/_epub-src/OEBPS/Text/Chapter01.xhtml`)
- 结论依据:原文以视频观看量预测说明模型、损失与参数优化;相关公式图片已核对。
- 原始内容:● 学习率(learning rate).学习率可以自行设定,如果设大一点,每次参数更新就会量大,学习可能就比较快;如果设小一点,参数更新就很慢,每次只改变一点点参数的值.