← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 5604.h · 生成模型:GPT-6

朴素乘积分数不是后验概率

理解等级:高级

案例按先验乘以已出现词的类内出现率,再乘未知词惩罚,比较spam与ham两个分数。它没有做跨类别归一化,也没完整纳入未出现词的伯努利项,因此更应称分类评分。不能把某个极小乘积直接解释成邮件属于该类的校准概率。

评分连乘可在浮点中下溢为0,后续log-log绘图并不能恢复已丢失的信息。实现可在对数域累加并保留明确的平滑与空词表规则,这是数值改进方向,不是本轮已运行的修复。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 2 处

    参考来源

    - 位置:《机器学习:实用案例解析》第03章《试写第一个贝叶斯垃圾分类器 · 连续片段3》(来源项目book-sources;源文件:extracted/OReilly精品图书系列共21册(《Javascript权威指南》、《机器学习:实用案例解析》、《编写可读代码的艺术》、《算法精解》等)/_epub-src/text/part3093.html,spine3199) - 结论依据:原文的案例步骤与解释支持所述机制;R包、外部API与数据接口限定于本书出版时环境,不作为当前兼容性承诺。 - 原始内容:classify.email<-function(path, training.df, prior=0.5,c=1e-6){ msg<-get.msg(path) msg.tdm<-get.tdm(msg) msg.freq<-rowSums(as.matrix(msg.tdm) - 补充位置:text/part3093.html,spine3199;原始内容:prior*c^(length(msg.freq)))。得到的结果就是这封邮件被分类为垃圾邮件的概率,值很小。 相反,如果这个交集不为空,我们需要找出这些同时出现在训练集和新邮件中的特征词项,然后查出它们在文档中出现的概率(occurrence)。使用match函数完成查找,它能