← 返回卡片

原书出处

Go语言底层原理剖析

02 浮点数设计原理与使用方法

核验版本的摘录快照 · 导入于 2026-10-23T07:20:48.740Z

的运算转换为了整数的运算。但是一般不能用uint64来模拟整数运算,因为整数运算存在溢出问题,因此big.Float仍然依赖大整数的运算。

需要注意的是,big.Float仍然会损失精度,因为有限的位数无法表达无限的小数。但是可以通过设置prec存储数字的位数来提高精度。prec设置得越大,其精度越高,但是相应地,在计算中花费的时间也越多,因此在实际中需要权衡prec的大小。

当prec设置为53时,其精度与float64相同,而在Go编译时常量运算中,为了保证高精度,prec会被设置为数百位。 在上例中,x2,y

此预览只包含定位所需的摘录和上下文。

原书定位详情

来源:a19c7933-4eda-4176-aebd-30fe7e1ad292

正文位置:extracted/Go语言底层原理剖析/_epub-src/OEBPS/Text/0006.xhtml

EPUB SHA-256:6586aa793108041a30725c637b6346ded2058feea16d272b69df0330b4730e7f