知识卡片
岭迹暴露共线性
把每个系数 β̂j(k) 作为 k 的函数画在同一张图上,就是岭迹。k 从 0 增大时:某系数原本很大却迅速塌向 0,说明它的显著性靠共线性支撑,实际作用可疑,甚至可以去掉;某系数原本接近 0 却骤然变成很大的负值,说明它其实有影响;两个系数各自剧烈跳动而和却稳定,典型是两个高度相关的变量在互相“抢”贡献,保留一个就够,这也解释了系数符号反常的现象。全局看,若所有岭迹都很乱,就要怀疑最小二乘是否反映了真实关系;若岭迹平稳,则对最小二乘更有信心。岭迹既是选 k 的直观工具,也是共线性的诊断工具。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第2章 线性回归方法 · 查看原书依据
这种情况往往发生在自变量x1和x2的相关性很大的场合,即x1和x2之间存在多重共线性的情形。因此,从变量选择的观点看,两者只要保存一个就够了。
参考来源
- 位置:《大数据挖掘与统计机器学习》第2章 线性回归方法(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter4_0002.xhtml,2.2.1 岭回归)
- 结论依据:原文用图 2—3 的六种情形逐一解读岭迹,并给出用整体稳定性判断最小二乘是否适用的建议。
- 原始内容:这种情况往往发生在自变量x1和x2的相关性很大的场合,即x1和x2之间存在多重共线性的情形。因此,从变量选择的观点看,两者只要保存一个就够了。