知识卡片

支付系统案例卡 · 1468.b.1

金额累计误差可越过判断边界

理解等级:高级

把金额放进二进制浮点数逐笔累计时,表示和运算误差会进入余额或阈值判断。书中 1000 次加 0.01 得到 9.999999999999831,而非精确的 10;若业务把结果与精确 10 比较,就可能误判。修正数值表示见 [[金额计算选十进制或分数表示]]。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《Go语言底层原理剖析》第2章《浮点数设计原理与使用方法》2.1、2.9–2.10节(源文件:`_epub-src/OEBPS/Text/0006.xhtml`) - 结论依据:2.1 明说资金数据的误差可能造成严重后果,2.9 给出重复加 0.01 后偏离 10 的具体运算例;余额/阈值误判是据此构造的资金系统边界案例,不冒充原书已实现的支付程序。 - 原始内容:在下面说明浮点数精度损失的例子中,1000个0.01相加的最终结果为9.999999999999831。可以看出,在浮点数的计算过程中可能产生精度的损失,并且精度的损失可能随着计算的次数而累积。