知识卡片

普通读书笔记卡 · 10080 · 生成模型:未记录

交叉熵衡量分类损失

理解等级:中级

Softmax 将类别得分转换为总和为 1 的概率分布。单标签分类中,交叉熵取正确类别概率的负对数:正确类别概率越低,损失越大。小批量损失可对样本损失取平均,以得到每样本的平均指标。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《深度学习进阶:自然语言处理》第1章《神经网络的复习》(来源项目 book-source:extracted/深度学习进阶:自然语言处理/_epub-src/text/part0006_split_003.html) - 结论依据:原文说明对应计算及其实现;内容依据相应说明整理。 - 原始内容:交叉熵误差由神经网络输出的各类别的概率和监督标签求得。