知识卡片
稀疏聚类加权准则
稀疏聚类的出发点:真正区分类的可能只是少数特征,用全部 p 个特征反而稀释信号、让结果不准。它假定样本间相异度可按特征相加,d(Xi,Xi’)=Σj dj(Xi,Xi’),常用平方欧氏距离;并把聚类写成优化问题 max_Θ Σj fj(Xj,Θ),fj 是只用第 j 个特征数据构造的准则(K 均值中即该特征的类间平方和),Θ 是划分参数。稀疏化就是给特征加权重并限制其总量:max Σj ωj fj(Xj,Θ) s.t. ‖ω‖₁=Σj|ωj|≤s,ωj≥0。ωj 读作特征 j 对聚类结果的贡献,ωj=0 表示该特征完全不参与聚类;s 越小时 L1 约束越紧,越多 ωj 被压到零。机制与 Lasso 惩罚同源,特别适合 p 远大于 n 的高维矩阵。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 第8章 聚类分析
原书出处 · 1 处
- 第8章 聚类分析 · 查看原书依据
稀疏聚类将常用的变量选择方法(如Lasso惩罚函数)作为聚类的算法。稀疏聚类在变量个数p 较多时,可以发现真正发挥作用的变量。
参考来源
- 位置:《大数据挖掘与统计机器学习》第8章 聚类分析(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter10_0003.xhtml,8.3.1 基本框架)
- 结论依据:原文说明稀疏聚类把 Lasso 一类变量选择方法用于聚类,给出可加相异度假设、一般优化形式(8.3)与带 ωj、调节参数 s 的稀疏准则(8.4),并逐条解释其含义。
- 原始内容:稀疏聚类将常用的变量选择方法(如Lasso惩罚函数)作为聚类的算法。稀疏聚类在变量个数p 较多时,可以发现真正发挥作用的变量。