知识卡片
缩放精度受可表示范围限制
相同分子位宽下增大分母幂,可表示更细的小数格,但可覆盖真实范围变小;中间乘加还会改变所需位宽。先定输入域、输出误差和中间范围,再选尺度,而非独立追求最多小数位。49/4近似12.345只是一个例子,表的位数是否含符号也须统一。
可联系[[二进缩放保存整数与指数]]理解条件与边界。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 9.4.2 精度
原书出处 · 1 处
- · 查看原书依据
分母太大会导致分子溢出
参考来源
- 位置:《嵌入式系统设计与实践》第9章《数学运算》(来源项目book-sources;extracted/嵌入式系统设计与实践/_epub-src/OEBPS/text00134.html;src-173)。
- 结论依据:原文对该机制、条件或案例的实质说明支撑本卡;保留本书历史实现范围及文中所列限制。
- 原始内容:分母太大会导致分子溢出