知识卡片
平方残差的解释需要模型前提
残差ei=yi−(b1xi+b0)保留正负;最小二乘最小化Σei²,既避免正负相互抵消,也让大的偏离受到更强惩罚。这里是平方,不是原文误写的开平方;平方不会使“大偏差发生概率变高”,只是改变优化目标里的惩罚大小。
最小化这个目标本身不要求先假定正态分布。若还要解释为最大似然,则需相应模型,例如给定x下误差独立、均值0且同方差正态;在这些条件下,最大化似然给出通常的最小二乘系数。Taboga原始统计讲义(2026-11-06读取假设及MLE结论)。
这也不是“参数为真的概率最大”的无条件陈述,参数估计、样本似然和预测可靠性应分开。异常值是否该被更强惩罚,还要看数据与任务,并非正态假设会使异常自动安全。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- · 查看原书依据
为什么要用方差来计算b1和b0,而不是直接用偏差呢?究其原因,主要是因为不合时宜。当将误差总和降到最低时,最终得到的联立方程组是线性的。在计算机出现之前,这些是最容易解决的问题。另一个原因可以在概率论的基础上做出解释。简单来说,这个概率就是b1和b0相对于(xi,yi)的最佳观测值,它与包含所有(y
参考来源
- 位置:《算法精解:C语言描述》第13章《最小二乘估计法》(spine1363;extracted/OReilly精品图书系列共21册(《Javascript权威指南》、《机器学习:实用案例解析》、《编写可读代码的艺术》、《算法精解》等)/_epub-src/text/part1329.html;u233-ch13-010)。
- 结论依据:233完整残差距离/平方理由/概率段实读,02993欧氏距离辅助说明同横坐标竖直差;StatLect作者讲义核验独立正态等条件及OLS/MLE关系,纠正平方/概率词义错误。
- 原始内容:为什么要用方差来计算b1和b0,而不是直接用偏差呢?究其原因,主要是因为不合时宜。当将误差总和降到最低时,最终得到的联立方程组是线性的。在计算机出现之前,这些是最容易解决的问题。另一个原因可以在概率论的基础上做出解释。简单来说,这个概率就是b1和b0相对于(xi,yi)的最佳观测值,它与包含所有(y