知识卡片

支付系统案例卡 · 406.l

小数金额差值出现比较偏差

理解等级:中级

用Number计算0.3−0.2与0.2−0.1时,原书展示两者比较不相等,前者也不等于表示0.1的Number。具体场景是美分差额看似相同,但输入已被二进制近似,减法又参与舍入,因而不能把数学上的十进制相等直接套到该表示的比较。该现象与[[整数最小单位保存金额]]中的表示方案配对,不把示例冒充实际扣款事故。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      var x=.3-.2;//30美分减去20美分 var y=.2-.1;//20美分减去10美分 x==y//=>false:两值不相等! x==.1//=>false:.3-.2不等于.1 y==.1//=>true:.2-.1等于.1 由于舍入误差,0.3和0.2之间的近似差值实际上并不等于0.2和0.1之间的近似差值[3]。这个问题并不只在JavaS

    参考来源

    - 位置:《JavaScript权威指南(原书第6版)》第3章《3.1.4 二进制浮点数和四舍五入错误》(spine21;extracted/OReilly精品图书系列共21册(《Javascript权威指南》、《机器学习:实用案例解析》、《编写可读代码的艺术》、《算法精解》等)/_epub-src/text/part0015.html;u024-ch03-020)。 - 结论依据:原文在“var x=.3-.2”附近的定义、例子或代码支撑本卡核心说明:用Number计算0.3−0.2与0.2−0.1时,原书展示两者比较不相等,前者也不等于表示0.1的Number。边界按已读前提解释;示例未执行。 - 原始内容:var x=.3-.2;//30美分减去20美分 var y=.2-.1;//20美分减去10美分 x==y//=>false:两值不相等! x==.1//=>false:.3-.2不等于.1 y==.1//=>true:.2-.1等于.1 由于舍入误差,0.3和0.2之间的近似差值实际上并不等于0.2和0.1之间的近似差值[3]。这个问题并不只在JavaS