知识卡片
零协方差只约束线性关系
协方差是两个变量去均值后的乘积的平均量,反映线性共变。同一观测的特征投影到协方差特征基后,两两协方差为零。零协方差仍可有非线性依赖,例如对称取值的 X 与 X²,知道 X 就能确定 X²。PCA 去除的是二阶相关性。
可参照[[贝叶斯公式更新基率]]。独立性关系决定能否分解联合概率,零协方差条件更弱。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 数据降维:深入理解PCA的来龙去脉 · 查看原书依据
主对角线元素就是各个维度的方差,非主对角线元素就是不同维度之间的协方差。
参考来源
- 位置:《从零开始:机器学习的数学原理和算法实践》第5章《数据降维:深入理解PCA的来龙去脉》(来源项目 book-source:extracted/从零开始:机器学习的数学原理和算法实践/_epub-src/OEBPS/Text/chapter005.xhtml)
- 结论依据:原书提出协方差归零目标,矩阵对角化直接给出各主成分的两两协方差。
- 原始内容:主对角线元素就是各个维度的方差,非主对角线元素就是不同维度之间的协方差。