知识卡片

普通读书笔记卡 · 6081.a.1.a

显示精度不等于存储精度

理解等级:中级

数据库或客户端把浮点值显示成59.95,可能只是格式化舍去了尾数。放大运算和精确相等比较会暴露表示差异;但具体查询是否匹配还与常量类型和转换规则有关,不能把原书空结果当所有引擎的必然输出。验证应区分输入、存储、运算及显示四个阶段。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      输出我们所期望的值。 IEEE 754标准简介 浮点数二进制表达的规范的提案可以追溯到1979年,最终是在1985年定稿。如今已经广泛地被各种程序、编程语言及微处理器所实现。 这个规范使用三段编码:一段用来表示一个值的小数部分,一段用来表示其偏置指数,剩余的另外一位表示符号。在科学计算中,IEEE 754标准的使用非常广泛,它同时能用来描述极大值以及极小值。

    参考来源

    - 位置:《SQL反模式 (图灵程序设计丛书 48)》第10章《10.2.2 在SQL中使用FLOAT》(spine2;extracted/SQL反模式 (图灵程序设计丛书 48)/_epub-src/OEBPS/text00000.html;u136-ch10-005)。 - 结论依据:原文在“输出我们所期望的值”附近的定义、例子或代码支撑本卡核心说明:数据库或客户端把浮点值显示成59.95,可能只是格式化舍去了尾数。边界按已读前提解释;示例未执行。 - 原始内容:输出我们所期望的值。 IEEE 754标准简介 浮点数二进制表达的规范的提案可以追溯到1979年,最终是在1985年定稿。如今已经广泛地被各种程序、编程语言及微处理器所实现。 这个规范使用三段编码:一段用来表示一个值的小数部分,一段用来表示其偏置指数,剩余的另外一位表示符号。在科学计算中,IEEE 754标准的使用非常广泛,它同时能用来描述极大值以及极小值。