知识卡片

普通读书笔记卡 · 9983.a · 生成模型:GPT-6

交叉熵来自伯努利似然

理解等级:中级

若标注为1,单样本似然是模型给正类的概率p;若标注为0,似然是1−p。对独立观测的似然乘积取负对数,可把训练损失写成单样本损失之和。错误且自信的预测受到较大惩罚。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《机器学习基础》第8章,8.1 逻辑回归模型(book-source:extracted/机器学习基础/_epub-src/EPUB/xhtml/chapter52.xhtml) - 结论依据:原文借「假设给定的各样本互相独立」处的论述给出本卡所解释的关系或做法。 - 原始内容:倒推概率分布中的参数。同样地,假设给定的各样本互相独立,y∈{0,1}表示样本所属的类别,f(x)表示预测为类别1的概率,1-f(