知识卡片
贝叶斯公式的三个部件
条件概率 P(A|B) 是 B 已发生时 A 发生的概率:P(A|B)=P(AB)/P(B)(P(B)>0),其中 P(AB) 是两者同时发生。分母乘到左边得乘法规则 P(AB)=P(B)P(A|B):一件“同时发生”的事,可拆成“先发生 B,再在 B 里取 A”。
若 B1,…,Bn 是样本空间的一个划分(两两互斥、并集为全集),则 P(A)=Σi P(Bi)P(A|Bi),这就是全概率公式。直接算 P(A) 困难时,就按“原因”把 A 拆成小块分别算再相加。
代回条件概率的定义即得贝叶斯公式 P(Bi|A)=P(Bi)P(A|Bi)/P(A)。三个因子:P(Bi) 是先验(看到证据前的信念),P(A|Bi) 是似然(该原因产生证据的可能性),P(Bi|A) 是后验(看到证据后修正的信念)。它由证据反推原因:朴素贝叶斯分类器就是把类别先验与特征似然相乘再归一化,全概率公式通常只作分母。
边界:若 A、B 独立,P(AB)=P(A)P(B),后验等于先验,证据不改变判断。
结构图:
flowchart TD
A[条件概率 P(A|B)=P(AB)/P(B)] --> B[乘法规则 P(AB)=P(B)P(A|B)]
B --> C[全概率 P(A)=ΣP(Bi)P(A|Bi)]
C --> D[贝叶斯 后验=先验×似然/证据]
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第1章 概率统计与应用数学基础知识 · 查看原书依据
贝叶斯公式也称朴素贝叶斯公式,P(Bi|A)为后验概率,P(Bi)为先验概率,P(A|Bi)为似然。在实际机器学习应用过程中,贝叶斯公式经常用到,全概率公式则很少用到。
参考来源
- 位置:《智能搜索和推荐系统:原理、算法与应用(零基础掌握搜索和推荐系统的原理、架构、算法) (智能系统与技术丛书)》第1章 概率统计与应用数学基础知识(源文件:extracted/智能搜索和推荐系统:原理、算法与应用(零基础掌握搜索和推荐系统的原理、架构、算法) (智能系统与技术丛书)/_epub-src/text/part0008.html)
- 结论依据:原文给出贝叶斯公式中后验、先验、似然三个名称的对应关系,并指出机器学习中常用贝叶斯、少用全概率,支撑“贝叶斯是把条件概率反过来算”的判断。
- 原始内容:贝叶斯公式也称朴素贝叶斯公式,P(Bi|A)为后验概率,P(Bi)为先验概率,P(A|Bi)为似然。在实际机器学习应用过程中,贝叶斯公式经常用到,全概率公式则很少用到。