知识卡片
奇异值分解与伪逆
奇异值分解把任意实矩阵 A 拆成三个矩阵的乘积 A=UDV,其中 U、V 为正交矩阵,D 为对角线元素可为长方形排列的奇异值矩阵;左右奇异向量分别是相关对称矩阵的特征向量,非零奇异值是其特征值的平方根。相较特征分解,SVD 的适用面广得多:每个实矩阵都有 SVD,非方阵也能分解。它最关键的作用是拓展求逆:伪逆 A⁺ 由 SVD 中 D 的非零元素取倒数再转置得到,用来处理非方矩阵的线性方程——列数多于行数(多解)时给出欧几里得范数最小的解,行数多于列数(无解)时给出使残差最小的近似解。这就是最小二乘与众多降维算法背后的统一工具。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 第2章 线性代数
原书出处 · 1 处
- 第2章 线性代数 · 查看原书依据
通过奇异值分解,我们会得到一些与特征分解相同类型的信息。然而,奇异值分解有更广泛的应用。每个实数矩阵都有一个奇异值分解,但不一定都有特征分解。
参考来源
- 位置:《深度学习》第2章 线性代数(源文件:extracted/深度学习/_epub-src/text/part0000_split_001.html)
- 结论依据:原文指出 SVD 与特征分解给出同类信息但应用更广,每个实矩阵都有奇异值分解,并说明伪逆借助 SVD 计算、用于非方矩阵求解。
- 原始内容:通过奇异值分解,我们会得到一些与特征分解相同类型的信息。然而,奇异值分解有更广泛的应用。每个实数矩阵都有一个奇异值分解,但不一定都有特征分解。