← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9630.o · 生成模型:DeepSeek-V4.1-Flash

调节参数本质是模型选择

理解等级:中级

k 或 λ 不是由数据按公式估出的普通参数,而是控制惩罚强度的调节参数:k=0 时是普通最小二乘,k 越大压缩越强、模型越简单,每个取值都对应一个不同的模型。所以选 k 就是选模型,应使用第 4 章的模型选择工具:Cp、AIC、BIC 或交叉验证。上机中 lm.ridge 的 select() 同时给出 HKB、L-W、GCV 三种结果(0.33、50.01、10),彼此差距极大,正说明调节参数的选择本身带有不确定性,不能把它当成唯一正确答案。实践中通常结合岭迹的稳定性与交叉验证误差一起判断。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第2章 线性回归方法 · 查看原书依据

      岭回归和Lasso回归中的参数k或λ称为调节参数,需要估计。实际上不同的调节参数的取值对应不同的模型。因此,可以把调节参数的估计看成模型选择问题

    参考来源

    - 位置:《大数据挖掘与统计机器学习》第2章 线性回归方法(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter4_0002.xhtml,2.2.3 一张图看懂岭回归和Lasso回归) - 结论依据:原文明确把调节参数估计归为模型选择问题,并列出 Cp、AIC、BIC、交叉验证四种手段。 - 原始内容:岭回归和Lasso回归中的参数k或λ称为调节参数,需要估计。实际上不同的调节参数的取值对应不同的模型。因此,可以把调节参数的估计看成模型选择问题