知识卡片
奇异值分解也能拆非方阵
奇异值分解(SVD)把任意 m×n 矩阵写成 A=U D Vᵀ:U 是 m×m 正交矩阵,其列称左奇异向量;V 是 n×n 正交矩阵,其列称右奇异向量;D 是 m×n 的对角矩阵(主对角线之外全为 0),对角元称奇异值。正交矩阵满足 AAᵀ=I。
它与特征分解提供类似的信息——都给出“最主要的几个方向”和对应的重要性权重——但关键差别是 SVD 不要求方阵。真实数据里最常见的“用户×物品”“文档×词”都是长方形矩阵,这正是 SVD 应用更广的原因。
工程上只保留 D 中最大的前 k 个奇异值、其余置 0,等价于用三个瘦矩阵相乘来逼近原矩阵:存储量从 m×n 降到 k(m+n),实现压缩、降维与去噪。
边界:k 越大越接近原矩阵,但压缩率越低,是保真度与存储、计算成本之间的权衡;奇异值按惯例从大到小排列,小的奇异值往往对应噪声,截断它们同时损失细节。见[[特征分解给出伸缩方向]]。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第1章 概率统计与应用数学基础知识 · 查看原书依据
通过奇异值分解,我们可以得到与特征分解类似的信息。与特征分解不同的是,奇异值分解能分解非方阵,因此应用更加广泛。
参考来源
- 位置:《智能搜索和推荐系统:原理、算法与应用(零基础掌握搜索和推荐系统的原理、架构、算法) (智能系统与技术丛书)》第1章 概率统计与应用数学基础知识(源文件:extracted/智能搜索和推荐系统:原理、算法与应用(零基础掌握搜索和推荐系统的原理、架构、算法) (智能系统与技术丛书)/_epub-src/text/part0017.html)
- 结论依据:原文给出 SVD 的三矩阵形式、各矩阵形状与左右奇异向量的命名,并点明“能分解非方阵”这一相对特征分解的关键优势。
- 原始内容:通过奇异值分解,我们可以得到与特征分解类似的信息。与特征分解不同的是,奇异值分解能分解非方阵,因此应用更加广泛。