知识卡片
扩展精度不能恢复已舍入信息
若先在float64中算出分数再转成高精度数,前一步丢失的信息不会因SetPrec变大而回来。原书t1等先做float64除法,然后SetFloat64,即使后续使用很多位,也不能据此证明高精度π。应沿整个计算链核对最窄精度和误差来源,区分容器可容纳多少位与输入值实际含有多少可信信息。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 04.7 计算Pi的精确值 · 查看原书依据
at64(float64(1) / float64(10*k+9)) k1 := new(big.Float).SetPrec(precision).SetFloat64(t1) t2 := float64(float64(64) / float64(10*k+3)) k2 := new(big.F
参考来源
- 位置:《精通 Go(Mastering Go 中文版)》04.7 计算Pi的精确值,spine073(book-sources;extracted/精通 Go(Mastering Go 中文版)/_epub-src/04.7.html)。
- 结论依据:原始t1到SetFloat64路径先发生普通浮点除法,直接支持先舍入后扩精度的限制。
- 原始内容:at64(float64(1) / float64(10*k+9)) k1 := new(big.Float).SetPrec(precision).SetFloat64(t1) t2 := float64(float64(64) / float64(10*k+3)) k2 := new(big.F