知识卡片
三种簇间距离改变合并顺序
凝聚聚类每一步都要回答”哪两个簇最近”,而”簇与簇的距离”并没有唯一答案——它取决于你取两个簇中的哪两点来量。三种常见定义:
| 名称 | 定义 | 抗噪 | 计算量 |
|---|---|---|---|
| 最小距离(单链接) | 由两簇中最近的一对样本决定 | 弱 | 小 |
| 最大距离(全链接) | 由两簇中最远的一对样本决定 | 强 | 大 |
| 平均距离 | 由两簇所有样本共同决定,原文以其簇中心间距离实现 | 强 | 大 |
差别不是理论上的细节,而是会直接改变合并结果。原文的例子是:样本已被分成三类、现在要合成两类,若按最小距离,应合并上方两类(它们有最近的样本对);若按平均距离,应合并右侧两类(它们簇中心更近)。同一份数据、同一个目标簇数,只因距离定义不同,得到的聚类就不同。
由此可以记住一条取舍:最小/最大距离计算便宜,但结果容易被噪声点带偏;平均距离抗噪更好,代价是计算量上升。选哪一种,本质上是在回答”你认为簇的边界应该由最接近的点决定,还是由整体形状决定”。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 第12章 聚类
原书出处 · 1 处
- 第12章 聚类 12.3.1 层次聚类的过程和原理 · 查看原书依据
实际上,这些聚类方式各有利弊。综合来说,若采用最小距离或最大距离,则聚类结果可能受噪声点的影响较大,但计算量较小;若采用平均距离,则抗噪声能力较强,但计算量会增大。
参考来源
- 位置:《机器学习基础:从入门到求职》第12章《第12章 聚类》(源文件:extracted/机器学习基础:从入门到求职/_epub-src/OEBPS/text00015.html)
- 结论依据:原文给出最小距离、最大距离、平均距离三种度量,并用图12-6 的例子说明两种度量会合并不同的类,最后总结三者在抗噪与计算量上的利弊。
- 原始内容:实际上,这些聚类方式各有利弊。综合来说,若采用最小距离或最大距离,则聚类结果可能受噪声点的影响较大,但计算量较小;若采用平均距离,则抗噪声能力较强,但计算量会增大。