知识卡片
浮点金额污染成本报表
项目报表把每条缺陷工时乘程序员时薪并汇总,结果与人工金额相差几美元。近似二进制浮点不能精确表示许多十进制小数,输入和运算中的表示误差可能进入乘积与合计;界面显示两位并不能证明内部精确。复利反复乘同一近似因子也会传播误差,方向与大小依具体数据和运算。
对应方案:[[定点十进制保存计费金额]]。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 2 处
- · 查看原书依据
你决定将这些列的类型定义为FLOAT ,因为这种类型支持浮点数。 Rounding-Errors/intro/float-columns.sql ALTER TABLE Bugs ADD COLUMN hours FLOAT; ALTER TABLE Accounts ADD COLUMN hourly_rate FLOAT; 通过分析与Bug相关的工作日志
- · 查看原书依据
在金融项目中计算复利。使用非精确浮点数所造成的误差看起来很小,但会不断累加。因此,在金融项目中使用精确值是非常重要的。
参考来源
- 位置:《SQL反模式 (图灵程序设计丛书 48)》第10章《第10章 取整错误》(spine2;extracted/SQL反模式 (图灵程序设计丛书 48)/_epub-src/OEBPS/text00000.html;u132-ch10-001)。
- 结论依据:原文在“你决定将这些列的类型定义为FLOAT”附近的定义、例子或代码支撑本卡核心说明:项目报表把每条缺陷工时乘程序员时薪并汇总,结果与人工金额相差几美元。边界按已读前提解释;示例未执行。
- 原始内容:你决定将这些列的类型定义为FLOAT ,因为这种类型支持浮点数。 Rounding-Errors/intro/float-columns.sql ALTER TABLE Bugs ADD COLUMN hours FLOAT; ALTER TABLE Accounts ADD COLUMN hourly_rate FLOAT; 通过分析与Bug相关的工作日志
- 位置:《SQL反模式 (图灵程序设计丛书 48)》第10章《10.2.2 在SQL中使用FLOAT》(spine2;extracted/SQL反模式 (图灵程序设计丛书 48)/_epub-src/OEBPS/text00000.html;u136-ch10-001)。
- 结论依据:复利场景直接说明重复使用近似因子会传播数值误差;与成本合计共同支持金额计算需精确表示。
- 原始内容:在金融项目中计算复利。使用非精确浮点数所造成的误差看起来很小,但会不断累加。因此,在金融项目中使用精确值是非常重要的。