知识卡片

普通读书笔记卡 · 1468.c.3

大浮点增加精度仍需舍入

理解等级:高级

big.Float 允许设置尾数精度,位数越多通常能减少近似误差,也会增加计算成本;有限精度仍不能精确表示所有小数。它适合“误差可控”的需求,不能因为名字里有 big 就当作精确货币数值。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 浮点数设计原理与使用方法 · 查看原书依据

      需要注意的是,big.Float仍然会损失精度,因为有限的位数无法表达无限的小数。但是可以通过设置prec存储数字的位数来提高精度。prec设置得越大,其精度越高,但是相应地,在计算中花费的时间也越多,因此在实际中需要权衡prec的大小。

    参考来源

    - 位置:《Go语言底层原理剖析》第2章《浮点数设计原理与使用方法》2.10节(源文件:`_epub-src/OEBPS/Text/0006.xhtml`) - 结论依据:原文明确说明 `big.Float` 的 `prec` 控制存储位数,提高精度会增加耗时,且有限位数仍有精度损失;本卡保留这一适用边界。 - 原始内容:需要注意的是,big.Float仍然会损失精度,因为有限的位数无法表达无限的小数。但是可以通过设置prec存储数字的位数来提高精度。prec设置得越大,其精度越高,但是相应地,在计算中花费的时间也越多,因此在实际中需要权衡prec的大小。