知识卡片
参数和超参数的两层选择
参数由训练数据在既定配置下估计,例如模型权重。超参数控制结构、约束或训练过程,例如最大树深或正则强度。一组超参数通常需要重新拟合整套模型,再依据验证表现选择。若每个超参数各取 k 个值、共 m 项,完整笛卡尔积要拟合至少 kᵐ 次,交叉验证还会按折数放大。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 全景图:机器学习路线图 · 查看原书依据
神经网络算法中,节点的权重是参数,而神经网络的层数和每层节点个数就是超参数。
参考来源
- 位置:《从零开始:机器学习的数学原理和算法实践》第4章《全景图:机器学习路线图》(来源项目 book-source:extracted/从零开始:机器学习的数学原理和算法实践/_epub-src/OEBPS/Text/chapter004.xhtml)
- 结论依据:模型训练与配置选择分别有不同的目标和数据使用范围。
- 原始内容:神经网络算法中,节点的权重是参数,而神经网络的层数和每层节点个数就是超参数。