知识卡片

普通读书笔记卡 · 1801.i.1

缩放精度受可表示范围限制

理解等级:中级

相同分子位宽下增大分母幂,可表示更细的小数格,但可覆盖真实范围变小;中间乘加还会改变所需位宽。先定输入域、输出误差和中间范围,再选尺度,而非独立追求最多小数位。49/4近似12.345只是一个例子,表的位数是否含符号也须统一。

可联系[[二进缩放保存整数与指数]]理解条件与边界。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《嵌入式系统设计与实践》第9章《数学运算》(来源项目book-sources;extracted/嵌入式系统设计与实践/_epub-src/OEBPS/text00134.html;src-173)。 - 结论依据:原文对该机制、条件或案例的实质说明支撑本卡;保留本书历史实现范围及文中所列限制。 - 原始内容:分母太大会导致分子溢出