知识卡片
贝叶斯区间换的是问题
换的不是算法,是提问方式。频率派问这套程序长期命中多少次,于是有置信区间;贝叶斯问看到这批数据后参数落在哪里的概率最大,于是有可信区间:P(θ∈[a,b]|data)=0.95。这句话正是多数人误以为置信区间想表达的意思。
怎么算:先验 × 似然 → 后验。分类准确率有共轭捷径:准确率 θ~Beta(a,b),观测到 n 次里 s 次正确,后验是 Beta(a+s, b+n−s)。取弱先验 Beta(1,1)、n=1000、s=850,后验为 Beta(851,151),均值 0.849,95% 可信区间约 [0.827, 0.870],与正态近似的 [0.828, 0.872] 几乎重合——大样本、弱先验时两派会收敛。没有共轭结构时要用 MCMC 或变分推断。
假设与失效:先验合理、模型设定正确。强先验加小样本时,区间会被先验拉走,覆盖率不再由抽样分布保证,而是后验校准意义上的。
分界点:0 错误或 0 成功时,频率派区间退化到边界,贝叶斯仍给出有限宽度——这是贝叶斯在极端比例下的实用优势。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第25章 置信区间 · 查看原书依据
每种构建置信区间的方法都有其独特的优势和劣势。正态近似区间法的计算成本很低,但依赖于数据分布的正态性假设。
参考来源
- 位置:《大模型技术30讲》第25讲 置信区间(源文件:extracted/大模型技术30讲/_epub-src/EPUB/xhtml/chapter01_0033.xhtml)
- 结论依据:第25章关于各方法假设的讨论;贝叶斯可信区间与 Beta-二项共轭为统计补充,不属原书四法
- 原始内容:每种构建置信区间的方法都有其独特的优势和劣势。正态近似区间法的计算成本很低,但依赖于数据分布的正态性假设。