知识卡片
浮点比较需明确误差容限
浮点类型只能近似表示许多分数,计算累积的误差会影响直接相等比较。比较数值时需依问题尺度设置可接受误差,不能将末尾小数位的差异直接解释为实际现象。更宽类型也不等于所有分数均可精确表示;近似相等更不证明前面的计算逻辑正确。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- · 查看原书依据
近似的分数值。在复杂计算中,由于可能会积累一些浮点错误,因此比较操作只能在一定小数位以内有效。
参考来源
- 位置:《利用Python进行数据分析》第4章《ndarray的数据类型》(spine272;extracted/OReilly精品图书系列共21册(《Javascript权威指南》、《机器学习:实用案例解析》、《编写可读代码的艺术》、《算法精解》等)/_epub-src/text/part0258.html;u082-ch04-013)。
- 结论依据:原文在“近似的分数值”附近的定义、例子或代码支撑本卡核心说明:浮点类型只能近似表示许多分数,计算累积的误差会影响直接相等比较。边界按已读前提解释;示例未执行。
- 原始内容:近似的分数值。在复杂计算中,由于可能会积累一些浮点错误,因此比较操作只能在一定小数位以内有效。