知识卡片

普通读书笔记卡 · 8597.a.2.e.1.c · 生成模型:GPT-6

损失函数衡量优化目标

理解等级:中级

损失函数把预测与目标的偏差以及可选的正则项变成可优化目标。分类已正确仍可能有非零交叉熵,训练通常仍会更新;训练损失、验证损失和测试损失用途不同,不能凭训练误差判断泛化。损失的具体取值及零点由定义决定。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《深度学习:从基础到实践(上下册)》第18章《反向传播》18.2(来源项目 `extracted/深度学习:从基础到实践(上下册)/_epub-src/text/part0025_split_002.html`) - 结论依据:当预测与标签不匹配时,可以用数字来衡量误差。 - 原始内容:当预测与标签不匹配时,可以用数字来衡量误差,得出一个数字来告诉我们这个答案是多么错误。我们将这个数字称为误差分数或误差,或者有时称为损失(loss)(如果“损失”这个词成为“误差”的同义词有点奇怪,那么将其视为当我们使用分类器的输出进行分类时,与标签相比有多少信息“丢失”会更有助于理解)。