知识卡片
浮点后置检查需要误差模型
同一总量经不同浮点计算路径得到的结果可能略有差异,精确相等会让正确更新误报失败。水容器例子按其单位和数量级选容差,再比较差值;这个容差不是所有业务的通用常数。NaN和无穷还要单独定义有效性,不能靠普通小于零判断或放宽容差消除特殊值传播。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第 5 章 有自我意识的代码:通过监控实现可靠性 · 查看原书依据
允许误差的多少取决于你期望处理的数的范围。在本例中,假设水的单位是升,水容器组可以容纳几十或几百升水。这种情况下,可以安全地假设相差一滴水对结果影响不大,因此可以将误差设置为0.0001 = 10-4
参考来源
- 位置:《你真的会写代码吗-2021》第5章《有自我意识的代码:通过监控实现可靠性》(来源项目book-sources:`extracted/你真的会写代码吗-2021/_epub-src/OEBPS/Text/0015.xhtml`)
- 结论依据:原文以“允许误差的多少取决于你期望处理的数的范围”所在的机制、例子或限制条件支撑本文;适用边界及读者推导在正文中单独说明。
- 原始内容:允许误差的多少取决于你期望处理的数的范围。在本例中,假设水的单位是升,水容器组可以容纳几十或几百升水。这种情况下,可以安全地假设相差一滴水对结果影响不大,因此可以将误差设置为0.0001 = 10-4