知识卡片
训练只是统计词频
朴素贝叶斯没有梯度下降,也没有迭代轮次。训练过程就是一次扫描:每读一封邮件,把垃圾或正常的计数加一;再把它分词,把每个 token 计入 token_spam_counts 或 token_ham_counts,同时并入词表。结束后,模型拥有的全部知识就是三组计数——两类邮件数、每个词在两类中的出现次数。
预测时再用这些计数算出平滑后的条件概率。这带来两个特点。优点是训练成本与总词数成正比、可以增量更新,新来一批标注邮件只需继续累加,不必重算。限制是模型容量被固定为“每个词两个数”,它无法表达词与词的组合效应,也完全忽略词序:“not good” 与 “good” 在它眼里只差一个 not 的计数,语气和搭配都消失了。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第13章 朴素贝叶斯算法 · 查看原书依据
首先增加 spam_messages 和 ham_messages 的计数,然后对每个消息文本进行标记,根据每个标记的消息类型递增 token_spam_counts 或 token_ham_counts 的值
参考来源
- 位置:《数据科学入门(第2版)》第13章 朴素贝叶斯算法(源文件:extracted/数据科学入门(第2版)/_epub-src/OEBPS/Text/0017.xhtml)
- 结论依据:原文这一段直接给出本卡的核心判断:「首先增加 spam_messages 和 ham_messages 的计数,然后……」
- 原始内容:首先增加 spam_messages 和 ham_messages 的计数,然后对每个消息文本进行标记,根据每个标记的消息类型递增 token_spam_counts 或 token_ham_counts 的值