知识卡片
打印十进制不改变浮点存值
格式化函数把已存储的二进制浮点数转换成十进制文本;可读的打印结果不能证明原来的十进制输入被精确存储。诊断数值问题时,应区分存储位模式、格式化算法及显示位数,必要时检查更充分的输出精度。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 浮点数设计原理与使用方法 · 查看原书依据
格式化输出浮点数的核心是调用标准库strconv.FormatFloat函数。抛开格式化的操作,该函数的核心功能是计算出浮点数最接近的十进制值。
参考来源
- 位置:《Go语言底层原理剖析》第2章《浮点数设计原理与使用方法》2.8节(源文件:`_epub-src/OEBPS/Text/0006.xhtml`)
- 结论依据:原文说明 `fmt` 经 `strconv.FormatFloat` 将浮点值转换成接近的十进制值,并给出显示位数变化后可见精度丢失的例子;本卡不沿用书中对某一具体打印算法或默认位数的跨版本断言。
- 原始内容:格式化输出浮点数的核心是调用标准库strconv.FormatFloat函数。抛开格式化的操作,该函数的核心功能是计算出浮点数最接近的十进制值。