知识卡片

普通读书笔记卡 · 8094.d · 生成模型:未记录

浮点表示误差依赖数值与尺度

理解等级:中级

binary32格式使用1位符号、8位指数和23位显式尾数;并非所有十进制数都能精确表示。03170的3.88f位模式0x407851ec对应约3.880000114440918,绝对误差约1.144×10⁻⁷,相对于3.88约2.95×10⁻⁸。

相对误差是绝对误差除以非零参考值的绝对值;参考值为0时须另选误差度量。标准规格化写法为1.f×2^(E−127);原文使用0.1f×2^(E−126)的另一规格化约定,指数偏移差一可与前者等价,不能只比较偏移数值就断定例子错误。

有限精度不意味着每个数和每次操作都必然有误差;整数、二进制分数等在范围内可能精确表示。表中“总共32个字节”应为32位。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      相对误差,相对误差计算的是绝对误差和期望值的一个比率。在这里,相对误差是0.0000001144091796875/3.88,或者写作2.9E-8。低于百万分之一的相对误差是相当普遍的。

    参考来源

    - 位置:《算法技术手册》第3章《舍入的错误》(spine1483;extracted/OReilly精品图书系列共21册(《Javascript权威指南》、《机器学习:实用案例解析》、《编写可读代码的艺术》、《算法精解》等)/_epub-src/text/part1447.html;u051-ch03-005)。 - 结论依据:51全文及03170编码表实际阅读;0x407851ec通过独立Python struct解码核算,不是原Java示例执行。 - 原始内容:相对误差,相对误差计算的是绝对误差和期望值的一个比率。在这里,相对误差是0.0000001144091796875/3.88,或者写作2.9E-8。低于百万分之一的相对误差是相当普遍的。