知识卡片

普通读书笔记卡 · 1468.c.1.a

浮点整数判断需检查有效位

理解等级:中级

判断一个已存储的有限浮点数是否为整数,不能只看指数是否为正:指数决定小数点移到哪里,还要检查小数点右侧的有效位是否全为零。像书中 234523 的例子,指数未覆盖全部尾数位,但余下位恰为零,所以仍是整数。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 浮点数设计原理与使用方法 · 查看原书依据

      第三步,计算IntTest。只有当指数可以弥补小数部分的时候,才是一个整数。例如,数字234523的指数的值是144-127=17,代表其不能弥补最后23-17=6位的小数,即当最后6位不全为0时,数字234523一定为小数。但由于数字234523最后6位刚好都为0,所以可以判断它是整数。

    参考来源

    - 位置:《Go语言底层原理剖析》第2章《浮点数设计原理与使用方法》2.4节(源文件:`_epub-src/OEBPS/Text/0006.xhtml`) - 结论依据:原文先提出指数须覆盖小数部分的思路,再用 234523 的编码说明指数未覆盖的最后六位为零时仍可判为整数;本卡不把“指数大于零”误写为充分条件。 - 原始内容:第三步,计算IntTest。只有当指数可以弥补小数部分的时候,才是一个整数。例如,数字234523的指数的值是144-127=17,代表其不能弥补最后23-17=6位的小数,即当最后6位不全为0时,数字234523一定为小数。但由于数字234523最后6位刚好都为0,所以可以判断它是整数。