知识卡片
期望方差协方差各答什么
期望 E(X)=Σi xi p(xi)(离散)或 ∫x f(x)dx(连续)是概率加权平均:均匀骰子的期望是 (1+…+6)/6=3.5。它回答“平均取多大”。
方差 D(X)=E[(X−E(X))²]=E(X²)−[E(X)]² 回答“围绕均值波动多大”;后一个等式的价值是只需一阶矩与二阶矩。标准差 σ=√D(X) 与 X 同量纲,报告误差、设阈值时比方差更直观,二者物理意义相同,只是量纲不同。
协方差 Cov(X,Y)=E[(X−E(X))(Y−E(Y))] 回答“两个变量是否同向变化”:大于 0 同向,小于 0 反向,等于 0 称不相关。散点落在第一、三象限贡献正积,落在第二、四象限贡献负积。
易混点:不相关不等于独立。协方差只度量线性趋势,X 与 X² 可以协方差为 0 却完全依赖;协方差还带量纲,比较强弱要除以两个标准差得到相关系数。
用途:把多维特征的协方差排成矩阵,做特征分解即可找出数据变化最剧烈的方向(见[[特征分解给出伸缩方向]])。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第1章 概率统计与应用数学基础知识 · 查看原书依据
协方差是两个随机变量变化趋势的度量。若Cov(X,Y)>0,X、Y的变化趋势相同;若Cov(X,Y)<0,X、Y的变化趋势相反;若Cov(X,Y)=0,X、Y不相关。
参考来源
- 位置:《智能搜索和推荐系统:原理、算法与应用(零基础掌握搜索和推荐系统的原理、架构、算法) (智能系统与技术丛书)》第1章 概率统计与应用数学基础知识(源文件:extracted/智能搜索和推荐系统:原理、算法与应用(零基础掌握搜索和推荐系统的原理、架构、算法) (智能系统与技术丛书)/_epub-src/text/part0011.html)
- 结论依据:原文给出协方差定义及其符号与变化趋势的对应,并说明方差刻画离散程度、标准差与方差同义,可直接支撑三个统计量的分工。
- 原始内容:协方差是两个随机变量变化趋势的度量。若Cov(X,Y)>0,X、Y的变化趋势相同;若Cov(X,Y)<0,X、Y的变化趋势相反;若Cov(X,Y)=0,X、Y不相关。