知识卡片
主题是词汇上的分布
主题(topic)的正式定义是:词在固定词汇表上的一个概率分布。不同主题在同一张词汇表上有不同的分布,同一个词可以在多个主题里拥有不同权重,因此主题可以理解为一组意义上相关、权重有高低的词。
文档不是单一主题。一篇评论往往同时谈信号、外观、发货、客服,比例大致是 30%、15%、10%、5% 这样拼起来的。所以主题模型的输出不是一个标签,而是每篇文档在若干主题上的比例向量。
与聚类、分类的区别:k 均值、SVM、k 近邻、朴素贝叶斯是把文档归到组或类,需要相似度定义或人工标签;主题建模不需要文本的先验知识,也不需要标注,直接从词共现里推断哪些词总是一起出现,再按主题注释文档、支持检索与汇总。
代价:主题数要人为预设;模型只给词表与权重,主题叫什么、是否有业务含义得靠人解读;词袋假设继承下来,语序仍然丢失。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第9章 高级分析理论与方法:文本分析 · 查看原书依据
主题(topic)被正式定义为词在固定词汇上的分布[29]。不同的主题在相同的词汇上会有不同的分布。主题可以看作具有相关含义的一组词,每个词在这个主题中有着相应的权重。
参考来源
- 位置:《数据科学与大数据分析 数据的发现 分析 可视化与表示》第9章 高级分析理论与方法:文本分析(源文件:extracted/数据科学与大数据分析 数据的发现 分析 可视化与表示/_epub-src/text/part0019_split_006.html)
- 结论依据:9.6 节给出主题的正式定义、文档含多个题材且比例不同的例子,并对比聚类与分类说明主题建模不需先验知识。
- 原始内容:主题(topic)被正式定义为词在固定词汇上的分布[29]。不同的主题在相同的词汇上会有不同的分布。主题可以看作具有相关含义的一组词,每个词在这个主题中有着相应的权重。