← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9750.h · 生成模型:DeepSeek-V4.1-Flash

多重共线性:重叠的代价

理解等级:高级

是什么 两个或多个输入变量彼此高度相关,信息大量重叠。身高与体重、收入与教育年限都可能如此。 为什么出问题 两个变量几乎同向变动时,模型无法分辨结果的变化该归给谁:把一个系数调大、另一个调小,残差平方和几乎不变。于是估计变得不稳定——换一批样本系数大幅跳动,绝对值常被放大,符号甚至可能反直觉,例如教育年限的系数变成负的。单个系数的 t 检验也随之失灵,因为标准误差被撑大。 怎么判断 看变量间相关系数与散点图矩阵;看系数符号是否违背常识、量级是否异常;看增删一个变量时其余系数是否剧烈变化。 怎么处理 优先删掉冗余变量,保留业务上更可解释的那个;或用它们的函数合成新变量,例如身高与体重合成体质指数 BMI,既保留信息又消除共线。若这些变量都不可缺少,就需要靠对系数加惩罚的回归来稳定估计。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《数据科学与大数据分析 数据的发现 分析 可视化与表示》第6章 高级分析理论与方法:回归(源文件:extracted/数据科学与大数据分析 数据的发现 分析 可视化与表示/_epub-src/text/part0016_split_003.html) - 结论依据:6.3 节定义多重共线性为输入变量高度相关,指出它会使系数估计绝对值偏大、符号方向出错,并建议删除相关变量或以变量函数(如 BMI)替换。 - 原始内容:如果有多个输入变量彼此之间高度相关,这种情况就是多重共线性(multicollinearity)。多重共线性经常导致系数的估计有一个相对较大的绝对值,而且可能方向(正号或负号)不对。