知识卡片
朴素乘积分数不是后验概率
案例按先验乘以已出现词的类内出现率,再乘未知词惩罚,比较spam与ham两个分数。它没有做跨类别归一化,也没完整纳入未出现词的伯努利项,因此更应称分类评分。不能把某个极小乘积直接解释成邮件属于该类的校准概率。
评分连乘可在浮点中下溢为0,后续log-log绘图并不能恢复已丢失的信息。实现可在对数域累加并保留明确的平滑与空词表规则,这是数值改进方向,不是本轮已运行的修复。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 2 处
- 第3章 分类:垃圾过滤 试写第一个贝叶斯垃圾分类器 · 连续片段3 · 查看原书依据
classify.email<-function(path, training.df, prior=0.5,c=1e-6){ msg<-get.msg(path) msg.tdm<-get.tdm(msg) msg.freq<-rowSums(as.matrix(msg.tdm)
- 第3章 分类:垃圾过滤 试写第一个贝叶斯垃圾分类器 · 连续片段4 · 查看原书依据
prior*c^(length(msg.freq)))。得到的结果就是这封邮件被分类为垃圾邮件的概率,值很小。 相反,如果这个交集不为空,我们需要找出这些同时出现在训练集和新邮件中的特征词项,然后查出它们在文档中出现的概率(occurrence)。使用match函数完成查找,它能
参考来源
- 位置:《机器学习:实用案例解析》第03章《试写第一个贝叶斯垃圾分类器 · 连续片段3》(来源项目book-sources;源文件:extracted/OReilly精品图书系列共21册(《Javascript权威指南》、《机器学习:实用案例解析》、《编写可读代码的艺术》、《算法精解》等)/_epub-src/text/part3093.html,spine3199)
- 结论依据:原文的案例步骤与解释支持所述机制;R包、外部API与数据接口限定于本书出版时环境,不作为当前兼容性承诺。
- 原始内容:classify.email<-function(path, training.df, prior=0.5,c=1e-6){ msg<-get.msg(path) msg.tdm<-get.tdm(msg) msg.freq<-rowSums(as.matrix(msg.tdm)
- 补充位置:text/part3093.html,spine3199;原始内容:prior*c^(length(msg.freq)))。得到的结果就是这封邮件被分类为垃圾邮件的概率,值很小。 相反,如果这个交集不为空,我们需要找出这些同时出现在训练集和新邮件中的特征词项,然后查出它们在文档中出现的概率(occurrence)。使用match函数完成查找,它能