知识卡片
稀疏K均值的交替解
K 均值最小化类内平方和 WCSS 等价于最大化类间平方和 BCSS,稀疏 K 均值因此直接优化加权 BCSS:max Σj ωj·BCSSj,约束 ‖ω‖₁≤s、‖ωj‖₂≤1。判据很直观:若第 j 个特征的类间平方和 BCSSj 很小,说明它在各类中取值差不多,不能区分群组,优化就给它接近 0 的权重;BCSSj 大则给大权重。求解交替进行:固定 ω,用加权相异度 Σj ωj dj(Xij,Xi’j) 跑标准 K 均值,得到划分 C1,…,CK;固定划分,解出 ωj=S(aj,Δ)/‖S(a,Δ)‖₂,其中 a 由各特征的 BCSS 构成,S(x,c)=sgn(x)(x−c)₊ 是软阈值算子,(·)₊ 表示取括号内数值的正部,Δ 由约束 ‖ω‖₁=s 确定。两步往复至收敛,输出类划分与特征权重。
结构图:
flowchart TD
A["初始化权重 ω"] --> B["按加权距离跑 K 均值"]
B --> C["得到划分 C1 至 CK"]
C --> D["算 a 并用软阈值更新 ω"]
D --> E{"ω 是否收敛"}
E -- 否 --> B
E -- 是 --> F["输出类与特征权重"]
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 第8章 聚类分析
原书出处 · 1 处
- 第8章 聚类分析 · 查看原书依据
如果fj(Xj, Θ)较小,意味着该特征在不同类中没什么差别,也就是说,特征j 在不同类中的取值差不多,不能作为聚类的特征变量。
参考来源
- 位置:《大数据挖掘与统计机器学习》第8章 聚类分析(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter10_0003.xhtml,8.3.2 稀疏K均值聚类)
- 结论依据:原文指出 WCSS 最小等价于 BCSS 最大,给出加权 BCSS 准则(8.5),并列出「固定 ω 做加权 K 均值 / 固定划分用软阈值解 ω」的四步迭代。
- 原始内容:如果fj(Xj, Θ)较小,意味着该特征在不同类中没什么差别,也就是说,特征j 在不同类中的取值差不多,不能作为聚类的特征变量。