知识卡片
稀疏层次聚类
层次聚类只需一个 n×n 距离矩阵 U,换了 U 就换了整棵树。稀疏层次聚类不改连接方式,而是先学一个加权距离矩阵:把 U 拉成向量 u,构造矩阵 D,其第 j 列是第 j 个特征对全部点对距离的贡献,求解 min ‖u−Dω‖² s.t. ‖ω‖₁≤s、‖ωj‖₂≤1,得 u=Dω 后还原成 n×n 矩阵再做普通层次聚类(全连接、单连接、平均连接均可)。ωj=0 意味着该特征的距离不再进入 U,等于把它从聚类中剔除。算法迭代:u←Dω,算 a=Dᵀu,用软阈值 ω=S(a,Δ)/‖S(a,Δ)‖₂,Δ 取使 ‖ω‖₁=s 的值(已满足则 Δ=0),收敛后还原矩阵并聚类。相比稀疏 K 均值,它回避了「在何处切树」的不确定性,只需指定连接方式与 s。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 第8章 聚类分析
原书出处 · 1 处
- 第8章 聚类分析 · 查看原书依据
如果距离用到全部特征 ,那么得到的是标准的层次聚类。如果对重新加权距离矩阵进行层次聚类,并且估计某些特征的权重为0,则得到稀疏层次聚类的结果。
参考来源
- 位置:《大数据挖掘与统计机器学习》第8章 聚类分析(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter10_0003.xhtml,8.3.3 稀疏层次聚类)
- 结论依据:原文说明层次聚类输入距离矩阵 U,对重新加权距离矩阵聚类并令部分权重为 0 即得稀疏层次聚类,给出式(8.6)与 D、a、Δ 的迭代步骤。
- 原始内容:如果距离用到全部特征 ,那么得到的是标准的层次聚类。如果对重新加权距离矩阵进行层次聚类,并且估计某些特征的权重为0,则得到稀疏层次聚类的结果。