知识卡片
sigmoid函数与条件概率
逻辑斯谛回归的核心是输出”样本属于某类的概率”。推导链条如下:先定义几率比 odd=p/(1−p)(事件发生与不发生的概率比),再取其对数得 logit 函数(对数几率 log-odds),它把 [0,1] 区间的概率映射到整个实数轴,可写成特征值的线性组合 z=wᵀx。真正想要的是概率,于是取 logit 的反函数——logistic 函数(因图像 S 形也叫 sigmoid): φ(z)=1/(1+e^(−z))。
它把任意实数 z 压到 [0,1]:z→+∞ 时 φ→1,z→−∞ 时 φ→0,拐点在 φ(z)=0.5。φ(z) 就是条件概率 P(y=1|x;w),例如 φ(z)=0.8 表示属于类别 1 的概率 80%,属于类别 0 的概率为 1−0.8=0.2,再用单位阶跃量化器转成二值类标。与 Adaline 对比:两者都是线性模型,只是 Adaline 用恒等函数 φ(z)=z,逻辑斯谛回归把激励换成 sigmoid。这带来的实用价值是能给出概率而不只是类别,如天气预报”下雨概率”、医疗”患病可能性”。
结构图:
flowchart LR
A[净输入 z=wᵀx] --> B[sigmoid φ z=1/1+e^-z]
B --> C[条件概率 P y=1|x]
C --> D[量化器 单位阶跃]
D --> E[二值类标 0 或 1]
B --> F[φ→1 当 z→+∞]
B --> G[φ→0 当 z→−∞]
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 3.3.1 初识逻辑斯谛回归与条件概率 · 查看原书依据
sigmoid函数以实数值作为输入并将其映射到[0,1]区间,其拐点位于φ(z)=0.5处
参考来源
- 位置:《Python机器学习》第3章《3.3.1 初识逻辑斯谛回归与条件概率》(源文件:`../../book-sources/extracted/Python机器学习/_epub-src/OEBPS/Text/part0032.xhtml.xhtml)
- 结论依据:原文定义几率比与 logit、给出 sigmoid 反函数、说明其 S 形与 [0,1] 映射、拐点 0.5、φ(z)=P(y=1|x;w) 的概率含义及与 Adaline 恒等激励的对比。
- 原始内容:sigmoid函数以实数值作为输入并将其映射到[0,1]区间,其拐点位于φ(z)=0.5处