知识卡片
大浮点增加精度仍需舍入
big.Float 允许设置尾数精度,位数越多通常能减少近似误差,也会增加计算成本;有限精度仍不能精确表示所有小数。它适合“误差可控”的需求,不能因为名字里有 big 就当作精确货币数值。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 浮点数设计原理与使用方法 · 查看原书依据
需要注意的是,big.Float仍然会损失精度,因为有限的位数无法表达无限的小数。但是可以通过设置prec存储数字的位数来提高精度。prec设置得越大,其精度越高,但是相应地,在计算中花费的时间也越多,因此在实际中需要权衡prec的大小。
参考来源
- 位置:《Go语言底层原理剖析》第2章《浮点数设计原理与使用方法》2.10节(源文件:`_epub-src/OEBPS/Text/0006.xhtml`)
- 结论依据:原文明确说明 `big.Float` 的 `prec` 控制存储位数,提高精度会增加耗时,且有限位数仍有精度损失;本卡保留这一适用边界。
- 原始内容:需要注意的是,big.Float仍然会损失精度,因为有限的位数无法表达无限的小数。但是可以通过设置prec存储数字的位数来提高精度。prec设置得越大,其精度越高,但是相应地,在计算中花费的时间也越多,因此在实际中需要权衡prec的大小。