← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 1468.b

误差要建模

理解等级:未标注

判断两个浮点结果是否相等,要先规定允许多大的差,而不是期待二进制近似回到数学上的精确值。

示例:书中把 0.01 加 1000 次,得到 9.999999999999831,不是精确的 10。业务若要求“正好等于 10”,这次比较就会失败。应先写下允许的误差,再看结果是否落在这个范围内。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《Go语言底层原理剖析》第2章《浮点数设计原理与使用方法》2.9节《浮点数计算与精度损失》 - 结论依据:原文用 1000 个 0.01 相加最终结果为 9.999999999999831(而非精确的10)的例子说明浮点数计算会累积精度损失,并给出优化建议"优先执行乘法和除法运算",可推出"浮点数比较应使用容差而非期待运算结果精确回到数学值"的结论。正文用的就是这个 1000 次相加的书中结果;“先写下允许的误差”是对该容差的操作说明,不是原书另给的公式。 - 原始内容:可以看出,在浮点数的计算过程中可能产生精度的损失,并且精度的损失可能随着计算的次数而累积。同时浮点数的计算顺序也会对最终的结果产生影响……加法运算由于需要进行指数调整,有丢失精度的风险,优秀的开发工程师在执行涉及加、减、乘和除的运算时,会优先执行乘法和除法运算。