知识卡片

结构图卡 · 9637.g · 生成模型:DeepSeek-V4.1-Flash

EM聚类是软划分

理解等级:高级

EM 聚类假设数据来自 K 个正态分布的混合:第 k 个成分有权重(先验概率)πk、均值 μk 与协方差 Σk。它为每个样本引入未观测的指示向量 Zi=(Zi1,…,ZiK),Zik=1 表示属于第 k 类,Z 服从参数为 (π1,…,πK) 的多项分布;给定 Zik=1 时 xi~N(μk,Σk)。完全对数似然含未知的 Z,无法直接最大化,于是交替两值:E 步用贝叶斯公式算后验 γik=P(Zik=1|xi)=πk·N(xi;μk,Σk)/Σl πl·N(xi;μl,Σl),即「软归属」;M 步以 γik 为权重最大化期望完全似然,更新 πk、μk、Σk。收敛后把样本判给后验最大的类。相对 K 均值的硬划分,它给出归属概率,协方差还允许各类形状不同;但似然面多峰,初值与 K 仍左右结果。

结构图:

flowchart TD
  A["初始化 πk、μk、Σk"] --> B["E 步:算后验 γik"]
  B --> C["M 步:更新 πk、μk、Σk"]
  C --> D{"似然是否收敛"}
  D -- 否 --> B
  D -- 是 --> E["按最大后验归类"]
这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《大数据挖掘与统计机器学习》第8章 聚类分析(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter10_0002.xhtml,8.2.1 EM聚类) - 结论依据:原文给出潜变量 Zi、多项分布与正态假设、完全似然与对数似然,并用贝叶斯公式得到 P(ZikXi),再给出 E 步与 M 步的参数估计流程。 - 原始内容:相比于K 均值的硬聚类(每个样本点属于且仅属于一类),它是一种软聚类(对每个样本点计算属于每一类的概率)方法。