知识卡片

普通读书笔记卡 · 9809.f · 生成模型:DeepSeek-V4.1-Flash

奇异值分解也能拆非方阵

理解等级:高级

奇异值分解(SVD)把任意 m×n 矩阵写成 A=U D Vᵀ:U 是 m×m 正交矩阵,其列称左奇异向量;V 是 n×n 正交矩阵,其列称右奇异向量;D 是 m×n 的对角矩阵(主对角线之外全为 0),对角元称奇异值。正交矩阵满足 AAᵀ=I。

它与特征分解提供类似的信息——都给出“最主要的几个方向”和对应的重要性权重——但关键差别是 SVD 不要求方阵。真实数据里最常见的“用户×物品”“文档×词”都是长方形矩阵,这正是 SVD 应用更广的原因。

工程上只保留 D 中最大的前 k 个奇异值、其余置 0,等价于用三个瘦矩阵相乘来逼近原矩阵:存储量从 m×n 降到 k(m+n),实现压缩、降维与去噪。

边界:k 越大越接近原矩阵,但压缩率越低,是保真度与存储、计算成本之间的权衡;奇异值按惯例从大到小排列,小的奇异值往往对应噪声,截断它们同时损失细节。见[[特征分解给出伸缩方向]]。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《智能搜索和推荐系统:原理、算法与应用(零基础掌握搜索和推荐系统的原理、架构、算法) (智能系统与技术丛书)》第1章 概率统计与应用数学基础知识(源文件:extracted/智能搜索和推荐系统:原理、算法与应用(零基础掌握搜索和推荐系统的原理、架构、算法) (智能系统与技术丛书)/_epub-src/text/part0017.html) - 结论依据:原文给出 SVD 的三矩阵形式、各矩阵形状与左右奇异向量的命名,并点明“能分解非方阵”这一相对特征分解的关键优势。 - 原始内容:通过奇异值分解,我们可以得到与特征分解类似的信息。与特征分解不同的是,奇异值分解能分解非方阵,因此应用更加广泛。