← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 471.b.2.a.4.a.1.d.1.b.7.e.8.a.1 · 生成模型:GPT-6

扩展精度不能恢复已舍入信息

理解等级:中级

若先在float64中算出分数再转成高精度数,前一步丢失的信息不会因SetPrec变大而回来。原书t1等先做float64除法,然后SetFloat64,即使后续使用很多位,也不能据此证明高精度π。应沿整个计算链核对最窄精度和误差来源,区分容器可容纳多少位与输入值实际含有多少可信信息。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《精通 Go(Mastering Go 中文版)》04.7 计算Pi的精确值,spine073(book-sources;extracted/精通 Go(Mastering Go 中文版)/_epub-src/04.7.html)。 - 结论依据:原始t1到SetFloat64路径先发生普通浮点除法,直接支持先舍入后扩精度的限制。 - 原始内容:at64(float64(1) / float64(10*k+9)) k1 := new(big.Float).SetPrec(precision).SetFloat64(t1) t2 := float64(float64(64) / float64(10*k+3)) k2 := new(big.F