知识卡片
最大似然估计的三步
频率派的立场是参数客观存在、只是尚未知道,因此把参数当固定值去猜。最大似然估计选那个”让已观测样本出现概率最大”的参数,流程固定三步:先写出样本的联合概率,在独立同分布假设下它是各样本概率的连乘;再取对数,把连乘变成求和,同时避免大量小数相乘导致浮点下溢;最后对参数求导并令其为零,解出估计值。它只需要样本、不需要任何先验,计算也简单,所以至今仍是主流。缺陷同样来自这一点:结论完全由见过的数据决定,样本少时会给出荒谬判断——没有见过飞机相撞,就认为相撞概率为零。这正是过拟合在概率语言里的表现。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第2章 我们生活在一个寻求最优解的世界里 · 查看原书依据
最大似然估计和贝叶斯估计分别代表了频率派和贝叶斯派的观点。频率派认为,参数是客观存在的,只是未知而已,因此,频率派最关心最大似然函数
参考来源
- 位置:《文本上的算法——深入浅出自然语言处理》第2章 我们生活在一个寻求最优解的世界里(源文件:extracted/文本上的算法——深入浅出自然语言处理/_epub-src/OEBPS/Text/00007.html)
- 结论依据:原文这一段直接给出本卡的核心判断:「最大似然估计和贝叶斯估计分别代表了频率派和贝叶斯派的观点。频率派认为,参数是客观……」
- 原始内容:最大似然估计和贝叶斯估计分别代表了频率派和贝叶斯派的观点。频率派认为,参数是客观存在的,只是未知而已,因此,频率派最关心最大似然函数