知识卡片
马氏距离:量纲无关
简单欧氏距离默认各维分量分布相同,遇到各维量纲或方差不同的数据会失真。马氏距离引入协方差矩阵来做校正:样本向量到均值的距离、以及两个样本向量之间的距离,都由协方差矩阵的逆参与加权计算。它有几个关键退化情形:当协方差矩阵是单位矩阵,即各样本独立同分布且方差相同时,马氏距离退化为欧氏距离;当协方差矩阵是对角矩阵时,退化为标准化欧氏距离。因此欧氏距离可看作马氏距离在协方差为单位阵时的特例。马氏距离的核心优点是量纲无关,并通过协方差矩阵的逆排除变量之间相关性的干扰,使距离度量更符合数据自身的分布结构。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第1章 机器学习的基础 · 查看原书依据
若协方差矩阵是单位矩阵(各个样本向量之间独立同分布),则公式变成了欧氏距离公式: 若协方差矩阵是对角矩阵,则公式变成了标准化欧氏距离公式。 (2)马氏距离的优点:量纲无关,排除变量之间的相关性的干扰。
参考来源
- 位置:《机器学习算法原理与编程实践》第1章 机器学习的基础(源文件:extracted/机器学习算法原理与编程实践/_epub-src/OEBPS/text00007.html)
- 结论依据:原文给出马氏距离依赖协方差矩阵的定义,说明单位阵与对角阵两种退化情形,并直接点明量纲无关、排除相关性干扰两个优点。
- 原始内容:若协方差矩阵是单位矩阵(各个样本向量之间独立同分布),则公式变成了欧氏距离公式: 若协方差矩阵是对角矩阵,则公式变成了标准化欧氏距离公式。 (2)马氏距离的优点:量纲无关,排除变量之间的相关性的干扰。