知识卡片

结构图卡 · 9630.i · 生成模型:DeepSeek-V4.1-Flash

逐步回归的有进有出

理解等级:中级

全模型含全部 p 个自变量,选模型只含其中 q 个,变量选择就是在这两者间取舍:变量多则信息全,但收集成本高、共线重、方差大;变量少则简单,却可能遗漏重要因素。前进法从空模型开始,每次把偏 F 值最大且通过检验的变量引入;后退法从全模型开始,每次剔除最不重要的变量。两者都是单向不可逆的,容易漏掉“单独不显著、组合后显著”的变量。逐步回归把两者结合,有进有出:引入新变量后回头检验已入选的旧变量,不显著就剔除,直到既不能引入也不能剔除。原文提醒,引入与剔除所用的显著性水平一般并不相同(引入更严),不少软件已改用 AIC/BIC 作为准则。

结构图:

flowchart TD
  A["全模型 p 个自变量"] --> B["前进法引入偏 F 最大者"]
  B --> C["每引入一个新变量"]
  C --> D["回头检验已入选变量"]
  D -->|"有不显著变量"| E["剔除该变量"]
  E --> C
  D -->|"全部显著"| F["还能引入新变量吗"]
  F -->|"能"| B
  F -->|"不能"| G["得到选模型"]
这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第2章 线性回归方法 · 查看原书依据

      逐步回归法的基本思想是有进有出,具体做法是将变量一个一个引入,引入变量的条件是通过了偏F 统计量的检验。同时,每引入一个新的变量,对已入选方程的老变量进行检验,将经检验认为不显著的变量剔除

    参考来源

    - 位置:《大数据挖掘与统计机器学习》第2章 线性回归方法(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter4_0001.xhtml,2.1.3 自变量的选择与逐步回归) - 结论依据:原文比较前进法、后退法的步骤与不足,说明逐步回归“有进有出”的做法及显著性水平、AIC/BIC 的差异。 - 原始内容:逐步回归法的基本思想是有进有出,具体做法是将变量一个一个引入,引入变量的条件是通过了偏F 统计量的检验。同时,每引入一个新的变量,对已入选方程的老变量进行检验,将经检验认为不显著的变量剔除