知识卡片
保留top-k奇异值降维
将[[SVD推广到非方阵]]的奇异值降序排列,保留前k项重构,可用较少参数近似原m×n矩阵。累计奇异值平方占比衡量Frobenius能量的保留程度,例如90%是可调的经验阈值。截去小分量可能降噪,也可能丢失低幅度的重要信号;应结合重构误差和下游任务评价,不把能量占比等同业务信息占比。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第5章 行为规律的发现与挖掘 5.1 对有序数据的规律分析 · 查看原书依据
前面说到奇异值的大小表示伸缩的比例,也表示了保留信息量,在利用SVD做数据信息提取或压缩时,对奇异值从大到小排序,只提取前k个特征向量保留的信息。k值的确定通常依据一些启发式策略,如设定保留信息量的百分比,一般设定为90%。保留信息量比例的计算方法为先求得所有奇异值的平方和,然后将奇异值的平方依次累加到总值的90%,形如。如图5-4所示,选定k值后,可以只用k个奇异值和对应的左右奇异向量相乘表示原矩阵A:
参考来源
- 位置:《数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow》第5章 行为规律的发现与挖掘,5.1 对有序数据的规律分析(来源项目a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow/_epub-src/OEBPS/Text/part0027.xhtml)
- 结论依据:原文明确"在利用SVD做数据信息提取或压缩时,对奇异值从大到小排序,只提取前k个特征向量保留的信息。k值的确定通常依据一些启发式策略,如设定保留信息量的百分比,一般设定为90%",且"分解后矩阵的乘积仍是m×n维,然而用来重构的信息的维数却降低了"。
- 原始内容:前面说到奇异值的大小表示伸缩的比例,也表示了保留信息量,在利用SVD做数据信息提取或压缩时,对奇异值从大到小排序,只提取前k个特征向量保留的信息。k值的确定通常依据一些启发式策略,如设定保留信息量的百分比,一般设定为90%。保留信息量比例的计算方法为先求得所有奇异值的平方和,然后将奇异值的平方依次累加到总值的90%,形如。如图5-4所示,选定k值后,可以只用k个奇异值和对应的左右奇异向量相乘表示原矩阵A: