知识卡片
K 值为什么只能试出来
K-Means 必须先把簇数 K 定下来,可 K 恰恰是最难定的一个量:它直接决定最终划分的样子,而现实任务里我们通常并不知道数据”本该”分成几类。原文的处理办法很朴素——人工试探或超参数搜索,也就是把若干个 K 各跑一遍,再看哪个结果合用。
之所以不能像监督学习那样用准确率选 K,是因为聚类没有标签:损失函数(簇内均方误差)会随 K 增大单调下降,K 取到样本数时损失为 0,但这显然毫无意义。所以”损失最小的 K”不是一个可用的准则,只能引入外部判断。
实际可选的三条路:
- 业务可解释性优先:先问”分成几类才有用”,再用数据验证,而不是让算法替你决定。
- 换一种能自己长出簇数的方法:DBSCAN 不需要指定簇数(见 [[DBSCAN 的形状自由与代价]]);层次聚类可以先把样本凝成一棵树,再在树上挑一层作为 K 类(见 [[层次聚类的合并与分裂]])。
- 在下游任务上验证:若聚类只是分类/推荐的前置步骤,就用最终指标反推 K。
这条限制也是 K-Means 的第一条缺点。理解了它,就能明白为什么”调 K”在工程里往往比”调模型”更花时间。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 第12章 聚类
原书出处 · 1 处
- 第12章 聚类 12.2.1 K-Means聚类过程和原理 · 查看原书依据
聚类簇数K值的选择是一个比较难处理的点,它会对K-Means算法的最终结果起到关键作用,但实际情况下,一般我们很难事先知道应该聚成几类。传统的K-Means算法在处理这个问题时主要依靠人工试探或者超参数搜索的形式来确定。
参考来源
- 位置:《机器学习基础:从入门到求职》第12章《第12章 聚类》(源文件:extracted/机器学习基础:从入门到求职/_epub-src/OEBPS/text00015.html)
- 结论依据:原文把"聚类簇数 K 值的选择"列为 K-Means 四个关键点之首,指出实际中很难事先知道应聚成几类,传统做法依靠人工试探或超参数搜索,并在小结中把"K 值只能暴力搜索"列为缺点。
- 原始内容:聚类簇数K值的选择是一个比较难处理的点,它会对K-Means算法的最终结果起到关键作用,但实际情况下,一般我们很难事先知道应该聚成几类。传统的K-Means算法在处理这个问题时主要依靠人工试探或者超参数搜索的形式来确定。