知识卡片
精度位数与求和项数分别控制
big.Float.SetPrec设置的是二进制有效位数,而求和项数控制级数截断,两者都影响数值误差。要求d位十进制有效数字大约需d×log2(10)个二进制位,还应考虑运算余量,不能直接把输入乘3当严格保证。原书又把同一precision用于循环上界,打印很多位不等于这些位都有正确依据。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 04.7 计算Pi的精确值 · 查看原书依据
nv.ParseUint(arguments[1], 10, 32) precision = uint(temp) * 3 PI := Pi(precision) fmt.Println(PI) }
参考来源
- 位置:《精通 Go(Mastering Go 中文版)》04.7 计算Pi的精确值,spine073(book-sources;extracted/精通 Go(Mastering Go 中文版)/_epub-src/04.7.html)。
- 结论依据:代码将输入乘3同时用于SetPrec和Pi循环,官方SetPrec说明单位为bits,支持精度与迭代两个控制量的区别。
- 原始内容:nv.ParseUint(arguments[1], 10, 32) precision = uint(temp) * 3 PI := Pi(precision) fmt.Println(PI) }
- 校正核验(2026-11-06):[一手资料](https://pkg.go.dev/math/big#Float.SetPrec);本轮未运行示例。