知识卡片
朴素贝叶斯的特征独立假设
朴素贝叶斯之朴素,在于它假设特征向量的各维度相互独立:就文本而言,认为词袋中两两词之间没有关联。黄色虽是苹果和梨共有的属性,但苹果和梨是两个相互独立的对象。这个强假设把联合概率拆成各特征条件概率的连乘,使计算从不可行变得可行。分类时把待分类项表示为特征集合,对每个类别计算其后验概率,取最大者作为归属;由于分母对所有类别相同,只需比较分子。独立性假设既是这一简化的前提,也是它的边界:现实词语常有搭配和语义关联,违背假设时概率估计会失真,但在词袋文本分类中它依然表现稳健。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第2章 中文文本分类 · 查看原书依据
朴素贝叶斯分类是一种十分简单的分类算法,称其朴素是因为其思想基础的简单性:就文本分类而言,它认为词袋中的两两词之间的关系是相互独立的,即一个对象的特征向量中每个维度都是相互独立的。例如,黄色是苹果和梨共有的属性,但苹果和梨是相互独立的。
参考来源
- 位置:《机器学习算法原理与编程实践》第2章 中文文本分类(源文件:extracted/机器学习算法原理与编程实践/_epub-src/OEBPS/text00010.html)
- 结论依据:原文说明朴素贝叶斯因思想基础简单而得名,认为词袋中两两词相互独立,并以黄色是苹果和梨共有属性为例,支撑本卡对独立假设及其作用的解释。
- 原始内容:朴素贝叶斯分类是一种十分简单的分类算法,称其朴素是因为其思想基础的简单性:就文本分类而言,它认为词袋中的两两词之间的关系是相互独立的,即一个对象的特征向量中每个维度都是相互独立的。例如,黄色是苹果和梨共有的属性,但苹果和梨是相互独立的。