知识卡片

普通读书笔记卡 · 9996 · 生成模型:GPT-6

损失从样本汇总到目标

理解等级:中级

假设函数给出预测,单样本损失把预测和真实值换算成代价。训练时常将损失求和或取平均,获得可比较的目标值。固定数据且没有额外项时,求和和平均的最优解相同,梯度大小会随汇总方式改变。

[[训练拟合不等于泛化]]。损失定义训练时怎样衡量偏差,独立数据检验偏差能否迁移。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 1.4 机器学习的基本概念 · 查看原书依据

      举个例子,假设有10个样本,我们会对这10个样本利用假设函数进行逐一预测,并逐一计算偏差,这时用到的是损失函数。当我们开始计算这10个样本的总体偏差时,我们用到的是成本函数。成本函数是由损失函数计

    参考来源

    - 位置:《机器学习算法的数学解析与Python实现》1.4 机器学习的基本概念(来源项目 book-source,`extracted/机器学习算法的数学解析与Python实现/_epub-src/OEBPS/text00007.html`) - 结论依据:本节明确区分单样本损失和数据集上的成本。 - 原始内容:举个例子,假设有10个样本,我们会对这10个样本利用假设函数进行逐一预测,并逐一计算偏差,这时用到的是损失函数。当我们开始计算这10个样本的总体偏差时,我们用到的是成本函数。成本函数是由损失函数计