知识卡片

普通读书笔记卡 · 6353

浮点比较需明确误差容限

理解等级:中级

浮点类型只能近似表示许多分数,计算累积的误差会影响直接相等比较。比较数值时需依问题尺度设置可接受误差,不能将末尾小数位的差异直接解释为实际现象。更宽类型也不等于所有分数均可精确表示;近似相等更不证明前面的计算逻辑正确。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      近似的分数值。在复杂计算中,由于可能会积累一些浮点错误,因此比较操作只能在一定小数位以内有效。

    参考来源

    - 位置:《利用Python进行数据分析》第4章《ndarray的数据类型》(spine272;extracted/OReilly精品图书系列共21册(《Javascript权威指南》、《机器学习:实用案例解析》、《编写可读代码的艺术》、《算法精解》等)/_epub-src/text/part0258.html;u082-ch04-013)。 - 结论依据:原文在“近似的分数值”附近的定义、例子或代码支撑本卡核心说明:浮点类型只能近似表示许多分数,计算累积的误差会影响直接相等比较。边界按已读前提解释;示例未执行。 - 原始内容:近似的分数值。在复杂计算中,由于可能会积累一些浮点错误,因此比较操作只能在一定小数位以内有效。