知识卡片
代数等价不保证浮点相同
浮点数以有限精度表示实数,每一步运算可能舍入;数学等价的计算顺序也可能有不同末位。把πs/30改写成π/(30/s)只令某些样例恰好相等,不能一般性消除误差,还引入s=0的中间除零。三角函数近似零也常不等于字面0;应按任务精度比较。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
- · 数学
原书出处 · 1 处
- 数学 · 查看原书依据
3.141592653589793 radians, but got 3.1415926535897936 FAIL exit status 1 FAIL github.com/gypsydave5/learn-go-with-tests/math/v3/clockface 0.006s
参考来源
- 位置:《通过测试学习 Go 编程》数学,spine020(book-sources;extracted/通过测试学习 Go 编程/_epub-src/OEBPS/Text/19.html)。
- 结论依据:原文30秒得到π的末位差,改写后又在三角函数与时针处遇误差。
- 原始内容:3.141592653589793 radians, but got 3.1415926535897936 FAIL exit status 1 FAIL github.com/gypsydave5/learn-go-with-tests/math/v3/clockface 0.006s