原书出处
Go语言底层原理剖析
02 浮点数设计原理与使用方法
的小数部分只能精确地表示1.23,那么这个加法将被抛弃。在IEEE-754中总是会精确地计算,但是最终转换为浮点数类型时会进行四舍五入操作。
在下面说明浮点数精度损失的例子中,1000个0.01相加的最终结果为9.999999999999831
。 可以看出,在浮点数的计算过程中可能产生精度的损失,并且精度的损失可能随着计算的次数而累积。同时浮点数的计算顺序也会对最终的结果产生影响。
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/Go语言底层原理剖析/_epub-src/OEBPS/Text/0006.xhtml
EPUB SHA-256:6586aa793108041a30725c637b6346ded2058feea16d272b69df0330b4730e7f