知识卡片
朴素贝叶斯是生成模型而非判别模型
内容
决策树、逻辑回归、KNN等大多数分类模型都是判别模型，直接学习”给定特征X，输出Y是什么”的条件关系；朴素贝叶斯则是生成模型，先建模特征X和标签Y的联合分布，再用贝叶斯公式反推出条件概率P(Y|X)。它的”朴素”体现在假设各特征在给定类别下相互独立，这个简化假设虽然经常不完全成立，却让每个特征对分类结果的贡献能被单独、清晰地计算出来，换来了很强的可解释性。
参考来源
- 位置：《数据科学工程实践》第11章《机器学习模型可解释性》"11.2.4 朴素贝叶斯"一节（源文件：_epub-src/OEBPS/Text/part0062.xhtml）
- 结论依据：原文明确"相比于大多数分类算法，如决策树、KNN、逻辑回归等，朴素贝叶斯有一个较明显的不同，前者都是判别模型，也就是直接学习特征输出Y和特征X之间的关系，但是朴素贝叶斯却是生成模型，也就是直接找出特征输出Y和特征X的联合分布，然后求出条件概率分布P(Y|X)作为预测的模型"。
- 原始内容：相比于大多数分类算法，如决策树、KNN、逻辑回归等，朴素贝叶斯有一个较明显的不同，前者都是判别模型，也就是直接学习特征输出Y和特征X之间的关系，但是朴素贝叶斯却是生成模型，也就是直接找出特征输出Y和特征X的联合分布，然后求出条件概率分布P(Y|X)作为预测的模型。