原书出处
Go语言底层原理剖析
02 浮点数设计原理与使用方法
终打印出的结果与x1,y1是完全一致的。 当把x2,y2的prec位数设置为100时,如下所示,可以看到,打印出的浮点数精度有明显的提升。
如果希望有理数计算不丢失精度,那么可以借助big.Rat实现。big.Rat仍然依赖大整数运算,其结构如下所示,其中,a、b分别代表分子和分母。
big.Rat的核心思想是将有理数的运算转换为分数的运算。例如12/34×56/78=(12×78+34×56)/(34×78),最后分子
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/Go语言底层原理剖析/_epub-src/OEBPS/Text/0006.xhtml
EPUB SHA-256:6586aa793108041a30725c637b6346ded2058feea16d272b69df0330b4730e7f