知识卡片

特征值分解的几何意义

普通读书笔记卡 · 1064.a

内容

矩阵是线性变换的描述,而特征向量是这个变换中方向不变、只被拉伸或压缩的特殊向量,拉伸倍数就是特征值。以特征向量为基重新表达空间后,复杂的旋转拉伸变换能被拆解成”变换到特征基坐标→按特征值缩放→变换回原坐标”三步,特征值越大说明该方向承载的信息越多;特征值很小的方向信息量很少,舍弃它们就是矩阵分解做降维的基本原理。

参考来源

- 位置:《数据科学工程实践》第5章《行为规律的发现与挖掘》"5.1.2 SVD原理及推导·特征分解"一节(源文件:_epub-src/OEBPS/Text/part0027.xhtml) - 结论依据:原文明确特征向量"矩阵变换对这些向量只是进行了简单的伸缩(倍乘),并没有改变向量的方向",并说明对A做特征值分解后变换等价于"V-1x(变换到新的特征基坐标下)→ΛV-1x(沿坐标轴按特征值缩放)→VΛV-1x(变换回原始坐标系)"三步。 - 原始内容:矩阵变换对这些向量只是进行了简单的伸缩(倍乘),并没有改变向量的方向……λ是特征值,表示特征向量被拉伸或压缩的比例……V-1x可以看作坐标变换,其含义是将x变换到新的特征基坐标下表示……ΛV-1x……沿着坐标轴缩放,缩放因子正是对应的特征值λi……VΛV-1x:将缩放过的x变换回原始标准坐标系。