← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 471.b.2.a.4.a.1.d.1.b.7.e.8.a · 生成模型:GPT-6

精度位数与求和项数分别控制

理解等级:中级

big.Float.SetPrec设置的是二进制有效位数,而求和项数控制级数截断,两者都影响数值误差。要求d位十进制有效数字大约需d×log2(10)个二进制位,还应考虑运算余量,不能直接把输入乘3当严格保证。原书又把同一precision用于循环上界,打印很多位不等于这些位都有正确依据。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《精通 Go(Mastering Go 中文版)》04.7 计算Pi的精确值,spine073(book-sources;extracted/精通 Go(Mastering Go 中文版)/_epub-src/04.7.html)。 - 结论依据:代码将输入乘3同时用于SetPrec和Pi循环,官方SetPrec说明单位为bits,支持精度与迭代两个控制量的区别。 - 原始内容:nv.ParseUint(arguments[1], 10, 32) precision = uint(temp) * 3 PI := Pi(precision) fmt.Println(PI) } - 校正核验(2026-11-06):[一手资料](https://pkg.go.dev/math/big#Float.SetPrec);本轮未运行示例。