知识卡片
充分性看拟合简洁性看变量
评价模型从两个方向出发。充分性即拟合优度,反映模型效果:能否充分拟合数据、预测是否准确,对应线性回归中的 R² 与 F 检验;Logistic 回归里常用 Pearson χ²、离差(deviance)检验和 Hosmer-Lemeshow 拟合优度检验。简洁性反映效率:模型中不含作用不显著的变量,用最少的变量和最简单的形式建模,对应单个系数的 Wald χ² 检验,以及似然比检验、离差检验(比较增减变量前后离差的变化)。两者互相牵制:加变量提升充分性却损害简洁性与稳定性,减变量反之。这正是逐步回归与 [[L1惩罚做变量筛选]] 要平衡的问题,也是第4章模型评价与选择的主线。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第3章 线性分类方法 · 查看原书依据
评价一个模型的好坏往往从两个方面出发:模型的充分性和简洁性。模型的充分性(即模型拟合优度)反映模型的效果,指的是该模型能否充分拟合数据,用模型进行预测是否准确,如线性回归中的R2拟合优度、F 检验等。模型的简洁性反映效率,指模型中不包含作用不显著的变量,用最少的变量和最简单的形式来建立模型
参考来源
- 位置:《大数据挖掘与统计机器学习》第3章 线性分类方法(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter5_0002.xhtml,3.2.2 估计和检验)
- 结论依据:原文把模型好坏分为充分性与简洁性两个方面,分别解释其含义与对应的检验方法,并列举 Logistic 回归中体现两者的具体统计量。
- 原始内容:评价一个模型的好坏往往从两个方面出发:模型的充分性和简洁性。模型的充分性(即模型拟合优度)反映模型的效果,指的是该模型能否充分拟合数据,用模型进行预测是否准确,如线性回归中的R2拟合优度、F 检验等。模型的简洁性反映效率,指模型中不包含作用不显著的变量,用最少的变量和最简单的形式来建立模型