知识卡片
SVD是特征分解在非方阵上的推广
内容
[[特征值分解的几何意义]]只能作用于方阵，而现实中的数据矩阵（样本数×特征数）通常不是方阵。SVD通过分别对A的转置乘A、A乘A的转置做特征分解，构造出一组”经过A变换后仍然正交”的基，从而把任意m×n矩阵分解成左奇异矩阵、奇异值矩阵、右奇异矩阵三者的乘积A=UΣV^T，其中奇异值矩阵里的数值就相当于特征值，衡量每个方向承载信息量的大小。
参考来源
- 位置：《数据科学工程实践》第5章《行为规律的发现与挖掘》"5.1.1 有序数据及SVD方法概述"一节（源文件：_epub-src/OEBPS/Text/part0027.xhtml）
- 结论依据：原文明确"SVD是对特征分解的推广，特征值分解只能应用于方阵。实际上大部分数据不是方阵……对于M×N的矩阵，为了像方阵一样能提取出特征及特征重要性，SVD将复杂矩阵分解为左奇异矩阵、奇异值矩阵、右奇异矩阵三个简单矩阵的乘积"。
- 原始内容：奇异值分解（Singular Value Decomposition，SVD）是线性代数中一种重要的矩阵分解方法……SVD是对特征分解的推广，特征值分解只能应用于方阵。实际上大部分数据不是方阵……对于M×N的矩阵，为了像方阵一样能提取出特征及特征重要性，SVD将复杂矩阵分解为左奇异矩阵、奇异值矩阵、右奇异矩阵三个简单矩阵的乘积，其中，左右奇异矩阵描述了特征的方向，奇异值矩阵描述了特征的重要性。