← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 1064.c · 生成模型:GPT-6(Codex)

保留top-k奇异值降维

理解等级:未标注

将[[SVD推广到非方阵]]的奇异值降序排列,保留前k项重构,可用较少参数近似原m×n矩阵。累计奇异值平方占比衡量Frobenius能量的保留程度,例如90%是可调的经验阈值。截去小分量可能降噪,也可能丢失低幅度的重要信号;应结合重构误差和下游任务评价,不把能量占比等同业务信息占比。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第5章 行为规律的发现与挖掘 5.1 对有序数据的规律分析 · 查看原书依据

      前面说到奇异值的大小表示伸缩的比例,也表示了保留信息量,在利用SVD做数据信息提取或压缩时,对奇异值从大到小排序,只提取前k个特征向量保留的信息。k值的确定通常依据一些启发式策略,如设定保留信息量的百分比,一般设定为90%。保留信息量比例的计算方法为先求得所有奇异值的平方和,然后将奇异值的平方依次累加到总值的90%,形如。如图5-4所示,选定k值后,可以只用k个奇异值和对应的左右奇异向量相乘表示原矩阵A:

    参考来源

    - 位置:《数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow》第5章 行为规律的发现与挖掘,5.1 对有序数据的规律分析(来源项目a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow/_epub-src/OEBPS/Text/part0027.xhtml) - 结论依据:原文明确"在利用SVD做数据信息提取或压缩时,对奇异值从大到小排序,只提取前k个特征向量保留的信息。k值的确定通常依据一些启发式策略,如设定保留信息量的百分比,一般设定为90%",且"分解后矩阵的乘积仍是m×n维,然而用来重构的信息的维数却降低了"。 - 原始内容:前面说到奇异值的大小表示伸缩的比例,也表示了保留信息量,在利用SVD做数据信息提取或压缩时,对奇异值从大到小排序,只提取前k个特征向量保留的信息。k值的确定通常依据一些启发式策略,如设定保留信息量的百分比,一般设定为90%。保留信息量比例的计算方法为先求得所有奇异值的平方和,然后将奇异值的平方依次累加到总值的90%,形如。如图5-4所示,选定k值后,可以只用k个奇异值和对应的左右奇异向量相乘表示原矩阵A: