原书出处
Go语言底层原理剖析
02 浮点数设计原理与使用方法
将d位十进制数(按照科学计数法表达)转换为二进制数,再将二进制数转换为d位十进制数,如果数据转换不发生损失,则意味着在此范围内有d位精度。
精度存在的原因在于,数据在进制之间相互转换时,不是精准匹配的,而是匹配到一个最接近的值
。如图2-2(a)所示,十进制数转换为二进制数,二进制数又转换为十进制数,如果能够还原为最初的值,那么转换精度是无损的,说明在当前范围内浮点
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/Go语言底层原理剖析/_epub-src/OEBPS/Text/0006.xhtml
EPUB SHA-256:6586aa793108041a30725c637b6346ded2058feea16d272b69df0330b4730e7f