← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9637.l · 生成模型:DeepSeek-V4.1-Flash

稀疏层次聚类

理解等级:高级

层次聚类只需一个 n×n 距离矩阵 U,换了 U 就换了整棵树。稀疏层次聚类不改连接方式,而是先学一个加权距离矩阵:把 U 拉成向量 u,构造矩阵 D,其第 j 列是第 j 个特征对全部点对距离的贡献,求解 min ‖u−Dω‖² s.t. ‖ω‖₁≤s、‖ωj‖₂≤1,得 u=Dω 后还原成 n×n 矩阵再做普通层次聚类(全连接、单连接、平均连接均可)。ωj=0 意味着该特征的距离不再进入 U,等于把它从聚类中剔除。算法迭代:u←Dω,算 a=Dᵀu,用软阈值 ω=S(a,Δ)/‖S(a,Δ)‖₂,Δ 取使 ‖ω‖₁=s 的值(已满足则 Δ=0),收敛后还原矩阵并聚类。相比稀疏 K 均值,它回避了「在何处切树」的不确定性,只需指定连接方式与 s。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第8章 聚类分析 · 查看原书依据

      如果距离用到全部特征 ,那么得到的是标准的层次聚类。如果对重新加权距离矩阵进行层次聚类,并且估计某些特征的权重为0,则得到稀疏层次聚类的结果。

    参考来源

    - 位置:《大数据挖掘与统计机器学习》第8章 聚类分析(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter10_0003.xhtml,8.3.3 稀疏层次聚类) - 结论依据:原文说明层次聚类输入距离矩阵 U,对重新加权距离矩阵聚类并令部分权重为 0 即得稀疏层次聚类,给出式(8.6)与 D、a、Δ 的迭代步骤。 - 原始内容:如果距离用到全部特征 ,那么得到的是标准的层次聚类。如果对重新加权距离矩阵进行层次聚类,并且估计某些特征的权重为0,则得到稀疏层次聚类的结果。