知识卡片

普通读书笔记卡 · 1711.f

浮点后置检查需要误差模型

理解等级:中级

同一总量经不同浮点计算路径得到的结果可能略有差异,精确相等会让正确更新误报失败。水容器例子按其单位和数量级选容差,再比较差值;这个容差不是所有业务的通用常数。NaN和无穷还要单独定义有效性,不能靠普通小于零判断或放宽容差消除特殊值传播。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《你真的会写代码吗-2021》第5章《有自我意识的代码:通过监控实现可靠性》(来源项目book-sources:`extracted/你真的会写代码吗-2021/_epub-src/OEBPS/Text/0015.xhtml`) - 结论依据:原文以“允许误差的多少取决于你期望处理的数的范围”所在的机制、例子或限制条件支撑本文;适用边界及读者推导在正文中单独说明。 - 原始内容:允许误差的多少取决于你期望处理的数的范围。在本例中,假设水的单位是升,水容器组可以容纳几十或几百升水。这种情况下,可以安全地假设相差一滴水对结果影响不大,因此可以将误差设置为0.0001 = 10-4