← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9847.f · 生成模型:Hunyuan

Softmax回归:多分类的线性分类器

理解等级:中级

Softmax回归是处理多分类的线性分类器,由权重矩阵W和偏置向量b构成:W的每一列对应一个类别的划分超平面,输入到超平面的距离反映它属于该类的概率。它与Logistic回归基本相同,区别在分母改成对所有类别求和,从而把二分类推广到多类;模型预测取概率最大的类,即argmax_i P(Y=i|x,W,b)。实现时W、b初始化为全零共享变量以保持训练中的持久状态,输入矩阵乘W加b后送进softmax得到每行一个样本各类概率的矩阵,再用argmax给出预测。这套逻辑被LogisticRegression类封装。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《机器学习算法原理与编程实践》第10章 认知计算与深度学习(源文件:extracted/机器学习算法原理与编程实践/_epub-src/OEBPS/text00034.html) - 结论依据:原文给出Softmax与Logistic的关系、W与b的数组含义、argmax预测式,并说明共享变量与概率矩阵的计算过程。 - 原始内容:softmax函数与Logistic函数基本相同,所不同的是softmax函数主要用于处理多类的情况,因此它的分母是一个求和公式。