知识卡片

普通读书笔记卡 · 6081.a.1

有限二进制不能精确存十进制

理解等级:中级

如十进制的1/3需要无限重复一样,59.95等有限十进制值在二进制中也可能无限展开。有限二进制浮点只能保存附近可表示值。增加位数可缩小误差,却不能对所有十进制小数消除误差;“输入只有两位小数”并不保证内部仍是同一个精确值。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      一些十进制有限小数,比如59.95,在二进制中却需要表示为无限小数。FLOAT 类型无法表达无限小数,因而,它存储了二进制表示中最接近59.95的值,用十进制表示等于59.950000762939。 有些值碰巧在两种表达方式中能达到相同的精度,从理论上来说,如果你了解IEEE 754标准的细节,就可以预测一个给定的十进制数如何以二进制形式存储。但在实际中,大

    参考来源

    - 位置:《SQL反模式 (图灵程序设计丛书 48)》第10章《10.2.1 舍入的必要性》(spine2;extracted/SQL反模式 (图灵程序设计丛书 48)/_epub-src/OEBPS/text00000.html;u135-ch10-004)。 - 结论依据:原文在“一些十进制有限小数,比如59.95”附近的定义、例子或代码支撑本卡核心说明:如十进制的1/3需要无限重复一样,59.95等有限十进制值在二进制中也可能无限展开。边界按已读前提解释;示例未执行。 - 原始内容:一些十进制有限小数,比如59.95,在二进制中却需要表示为无限小数。FLOAT 类型无法表达无限小数,因而,它存储了二进制表示中最接近59.95的值,用十进制表示等于59.950000762939。 有些值碰巧在两种表达方式中能达到相同的精度,从理论上来说,如果你了解IEEE 754标准的细节,就可以预测一个给定的十进制数如何以二进制形式存储。但在实际中,大