知识卡片

普通读书笔记卡 · 4545.g.11.c.1.e.18

浮点比较先定义容差

理解等级:高级

浮点数用有限位近似表示数值。需要判断两个计算结果是否足够接近时,应先约定误差含义,例如绝对差小于某个正阈值,而不是期待所有十进制运算都能精确相等。

容差的大小取决于业务单位和数值尺度,并非任意选一个小数就普遍安全。原书math.Fdim写法不能直接作为现代Go示范;正差也不等于绝对差,比较必须对调两个操作数后仍符合预期。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      因为浮点数不是一种精确的表达方式,所以像整型那样直接用==来判断两个浮点数是否相等 是不可行的,这可能会导致不稳定的结果。 下面是一种推荐的替代方案: import "math" // p为用户自定义的比较精度,比如0.

    参考来源

    - 位置:《Go语言编程 完整版》第02章《顺序编程》(来源项目book-sources:extracted/Go语言编程 完整版/_epub-src/text/part0000_split_000.html;spine 1,归一字符[47087,47197)) - 结论依据:原文引出精度p与近似比较;不照抄有误的函数名和单向差,保留对称误差定义。 - 原始内容:因为浮点数不是一种精确的表达方式,所以像整型那样直接用==来判断两个浮点数是否相等 是不可行的,这可能会导致不稳定的结果。 下面是一种推荐的替代方案: import "math" // p为用户自定义的比较精度,比如0.