知识卡片

支付系统案例卡 · 6081

浮点金额污染成本报表

理解等级:中级

项目报表把每条缺陷工时乘程序员时薪并汇总,结果与人工金额相差几美元。近似二进制浮点不能精确表示许多十进制小数,输入和运算中的表示误差可能进入乘积与合计;界面显示两位并不能证明内部精确。复利反复乘同一近似因子也会传播误差,方向与大小依具体数据和运算。

对应方案:[[定点十进制保存计费金额]]。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 2 处

    • · 查看原书依据

      你决定将这些列的类型定义为FLOAT ,因为这种类型支持浮点数。 Rounding-Errors/intro/float-columns.sql ALTER TABLE Bugs ADD COLUMN hours FLOAT; ALTER TABLE Accounts ADD COLUMN hourly_rate FLOAT; 通过分析与Bug相关的工作日志

    • · 查看原书依据

      在金融项目中计算复利。使用非精确浮点数所造成的误差看起来很小,但会不断累加。因此,在金融项目中使用精确值是非常重要的。

    参考来源

    - 位置:《SQL反模式 (图灵程序设计丛书 48)》第10章《第10章 取整错误》(spine2;extracted/SQL反模式 (图灵程序设计丛书 48)/_epub-src/OEBPS/text00000.html;u132-ch10-001)。 - 结论依据:原文在“你决定将这些列的类型定义为FLOAT”附近的定义、例子或代码支撑本卡核心说明:项目报表把每条缺陷工时乘程序员时薪并汇总,结果与人工金额相差几美元。边界按已读前提解释;示例未执行。 - 原始内容:你决定将这些列的类型定义为FLOAT ,因为这种类型支持浮点数。 Rounding-Errors/intro/float-columns.sql ALTER TABLE Bugs ADD COLUMN hours FLOAT; ALTER TABLE Accounts ADD COLUMN hourly_rate FLOAT; 通过分析与Bug相关的工作日志 - 位置:《SQL反模式 (图灵程序设计丛书 48)》第10章《10.2.2 在SQL中使用FLOAT》(spine2;extracted/SQL反模式 (图灵程序设计丛书 48)/_epub-src/OEBPS/text00000.html;u136-ch10-001)。 - 结论依据:复利场景直接说明重复使用近似因子会传播数值误差;与成本合计共同支持金额计算需精确表示。 - 原始内容:在金融项目中计算复利。使用非精确浮点数所造成的误差看起来很小,但会不断累加。因此,在金融项目中使用精确值是非常重要的。