知识卡片
浮点数误差要整数化
二进制浮点数通常无法精确表示十进制小数,0.1+0.2 不等于 0.3。本书建议先换算成整数单位,例如美分,再运算和展示;但 JavaScript Number 的整数精确性只覆盖安全整数范围,换算后仍须检查范围。发散:金额模型应明确最小单位、取整规则和数值上限,不能仅靠“乘 100”保证所有金额精确。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 附录A 毒瘤 Awful Parts · 查看原书依据
二进制的浮点数不能正确地处理十进制的小数,因此0.1+0.2不等于0.3
参考来源
- 位置:《JavaScript语言精粹(修订版)》附录A《毒瘤 Awful Parts》"浮点数"一节
- 结论依据:原文说明二进制浮点误差并给出美元换美分的整数化示例;[MDN MAX_SAFE_INTEGER](https://developer.mozilla.org/en-US/docs/Web/JavaScript/Reference/Global_Objects/Number/MAX_SAFE_INTEGER)明确整数精确运算的范围,因此收窄原书“整数运算精确”的绝对说法。
- 原始内容:二进制的浮点数不能正确地处理十进制的小数,因此0.1+0.2不等于0.3……举例来说,美元可以通过乘以100而全部转成美分,然后就可以准确地将美分相加。它们的和可以再除以100转换回美元。