知识卡片

NMF的稀疏性优势

普通读书笔记卡 · 1064.f

内容

因为只能相加不能相减,[[NMF非负性带来可解释的局部叠加]]学到的表示天然是稀疏的——每个样本通常只需用到少数几个基向量就能重构,不像PCA那样要用到所有正交基。这对现实中大量存在的稀疏数据(比如用户评分矩阵,绝大部分商品用户根本没打过分)特别友好:稀疏解既降低了存储和计算开销,也让分解出的局部特征更容易对应到可解释的业务含义。

参考来源

- 位置:《数据科学工程实践》第5章《行为规律的发现与挖掘》"5.3.1 稀疏数据及NMF方法概述"一节(源文件:_epub-src/OEBPS/Text/part0029.xhtml) - 结论依据:原文明确"NMF的非负性约束使得分解结果具有一定的稀疏性……由于只存在相加组合,NMF学到的是局部结构表达……对于每一张人脸图像,并不一定用到所有的局部表达,因此NMF分解后的图像表达是一种稀疏的编码方式",并说明这对用户评分矩阵等现实稀疏数据"降低数据的冗余度与存储量"。 - 原始内容:此外,NMF的非负性约束使得分解结果具有一定的稀疏性。上文提到,由于只存在相加组合,NMF学到的是局部结构表达……并不一定用到所有的局部表达,因此NMF分解后的图像表达是一种稀疏的编码方式……在实际应用中,稀疏矩阵是广泛存在的,用户通常不会给所有购买过的东西打分,所以用户评分矩阵是一个稀疏的矩阵……分解结果的稀疏性不仅可以有效降低数据的冗余度与存储量,而且更加凸显数据的潜在局部特征。