← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 1468.c.1.c

十进制有效位取决于数值范围

理解等级:高级

二进制浮点的“十进制精度”要连同数值范围和往返转换规则讨论:不同范围内,十进制数映射到邻近二进制值再转回时,能保留的有效位可能不同。把 float32 简称为“固定七位精度”会掩盖这一条件。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《Go语言底层原理剖析》第2章《浮点数设计原理与使用方法》2.7节(源文件:`_epub-src/OEBPS/Text/0006.xhtml`) - 结论依据:原文按 d 位十进制往返转换定义特定范围的精度,并指出 2 的幂与 10 的幂不对应,单精度可见 6–8 位的范围差异;本卡保留定义的前提。 - 原始内容:精度存在的原因在于,数据在进制之间相互转换时,不是精准匹配的,而是匹配到一个最接近的值……2的幂与10的幂不是一一对应的,导致在不同的范围内可能有不同的精度。