知识卡片
浮点表示误差依赖数值与尺度
binary32格式使用1位符号、8位指数和23位显式尾数;并非所有十进制数都能精确表示。03170的3.88f位模式0x407851ec对应约3.880000114440918,绝对误差约1.144×10⁻⁷,相对于3.88约2.95×10⁻⁸。
相对误差是绝对误差除以非零参考值的绝对值;参考值为0时须另选误差度量。标准规格化写法为1.f×2^(E−127);原文使用0.1f×2^(E−126)的另一规格化约定,指数偏移差一可与前者等价,不能只比较偏移数值就断定例子错误。
有限精度不意味着每个数和每次操作都必然有误差;整数、二进制分数等在范围内可能精确表示。表中“总共32个字节”应为32位。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- · 查看原书依据
相对误差,相对误差计算的是绝对误差和期望值的一个比率。在这里,相对误差是0.0000001144091796875/3.88,或者写作2.9E-8。低于百万分之一的相对误差是相当普遍的。
参考来源
- 位置:《算法技术手册》第3章《舍入的错误》(spine1483;extracted/OReilly精品图书系列共21册(《Javascript权威指南》、《机器学习:实用案例解析》、《编写可读代码的艺术》、《算法精解》等)/_epub-src/text/part1447.html;u051-ch03-005)。
- 结论依据:51全文及03170编码表实际阅读;0x407851ec通过独立Python struct解码核算,不是原Java示例执行。
- 原始内容:相对误差,相对误差计算的是绝对误差和期望值的一个比率。在这里,相对误差是0.0000001144091796875/3.88,或者写作2.9E-8。低于百万分之一的相对误差是相当普遍的。