知识卡片
K-Means调参的四个抓手
scikit-learn 里 K-Means 家族有两个类:KMeans(全量)和 MiniBatchKMeans(分小批增量)。调参不必逐个背,按”要解决什么问题”抓四个抓手即可。
| 要解决的问题 | 参数 | 怎么设 |
|---|---|---|
| 分几类 | n_clusters |
多试几组值,结合业务含义挑(见 [[K 值为什么只能试出来]]) |
| 起点好坏 | init |
保持默认 k-means++;random 只在做对比实验时用 |
| 结果不稳 | n_init |
默认跑 10 组不同初值取最优;K-Means 是局部最优算法,这是兜底手段 |
| 距离计算太慢 | algorithm |
默认 auto;数据稠密时 elkan 可用三角不等式少算距离 |
max_iter 控制单次迭代上限(KMeans 默认 300、MiniBatchKMeans 默认 100)。random_state 固定后结果可复现。
MiniBatchKMeans 的 n_init 语义与 KMeans 不同:KMeans 是用同一份训练集换不同初值重跑,MiniBatchKMeans 是每次换一份不同的采样集重跑。另有 batch_size(每批样本数,默认 100)、init_size(挑选初值的候选样本数,默认 3 倍 batch)、max_no_improvement(连续多少批无改善就早停,默认 10)控制速度与精度的平衡。
输出侧:cluster_centers_ 是各簇中心,labels_ 是训练样本的簇标记,fit_predict 一步返回标记;predict(X) 把新样本按最近中心归簇,MiniBatchKMeans.partial_fit(X) 可以在单个小批上继续更新模型,适合流式或超大数据。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 第12章 聚类
原书出处 · 1 处
- 第12章 聚类 12.2.4 K-Means应用实例 · 查看原书依据
由于K-Means的结果是受初始值影响的局部最优迭代算法,因此一般需要多选择几组初始聚类中心进行尝试,最后选择最好的结果作为最终聚类结果。
参考来源
- 位置:《机器学习基础:从入门到求职》第12章《第12章 聚类》(源文件:extracted/机器学习基础:从入门到求职/_epub-src/OEBPS/text00015.html)
- 结论依据:原文列出 KMeans 与 MiniBatchKMeans 的 n_clusters、init、n_init、algorithm、batch_size、init_size、max_no_improvement 等参数及 cluster_centers_、labels_、fit_predict、partial_fit 等接口。
- 原始内容:由于K-Means的结果是受初始值影响的局部最优迭代算法,因此一般需要多选择几组初始聚类中心进行尝试,最后选择最好的结果作为最终聚类结果。