知识卡片
金额累计误差可越过判断边界
把金额放进二进制浮点数逐笔累计时,表示和运算误差会进入余额或阈值判断。书中 1000 次加 0.01 得到 9.999999999999831,而非精确的 10;若业务把结果与精确 10 比较,就可能误判。修正数值表示见 [[金额计算选十进制或分数表示]]。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 浮点数设计原理与使用方法 · 查看原书依据
在下面说明浮点数精度损失的例子中,1000个0.01相加的最终结果为9.999999999999831
参考来源
- 位置:《Go语言底层原理剖析》第2章《浮点数设计原理与使用方法》2.1、2.9–2.10节(源文件:`_epub-src/OEBPS/Text/0006.xhtml`)
- 结论依据:2.1 明说资金数据的误差可能造成严重后果,2.9 给出重复加 0.01 后偏离 10 的具体运算例;余额/阈值误判是据此构造的资金系统边界案例,不冒充原书已实现的支付程序。
- 原始内容:在下面说明浮点数精度损失的例子中,1000个0.01相加的最终结果为9.999999999999831。可以看出,在浮点数的计算过程中可能产生精度的损失,并且精度的损失可能随着计算的次数而累积。