知识卡片
Softmax回归:多分类的线性分类器
Softmax回归是处理多分类的线性分类器,由权重矩阵W和偏置向量b构成:W的每一列对应一个类别的划分超平面,输入到超平面的距离反映它属于该类的概率。它与Logistic回归基本相同,区别在分母改成对所有类别求和,从而把二分类推广到多类;模型预测取概率最大的类,即argmax_i P(Y=i|x,W,b)。实现时W、b初始化为全零共享变量以保持训练中的持久状态,输入矩阵乘W加b后送进softmax得到每行一个样本各类概率的矩阵,再用argmax给出预测。这套逻辑被LogisticRegression类封装。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第10章 认知计算与深度学习 · 查看原书依据
softmax函数与Logistic函数基本相同,所不同的是softmax函数主要用于处理多类的情况,因此它的分母是一个求和公式。
参考来源
- 位置:《机器学习算法原理与编程实践》第10章 认知计算与深度学习(源文件:extracted/机器学习算法原理与编程实践/_epub-src/OEBPS/text00034.html)
- 结论依据:原文给出Softmax与Logistic的关系、W与b的数组含义、argmax预测式,并说明共享变量与概率矩阵的计算过程。
- 原始内容:softmax函数与Logistic函数基本相同,所不同的是softmax函数主要用于处理多类的情况,因此它的分母是一个求和公式。