知识卡片

普通读书笔记卡 · 6081.d

十进制精度与刻度不同

理解等级:中级

精度是允许的总有效数字数,刻度是小数点后的位数。以通常的NUMERIC(9,2)为例,共9位,其中2位小数,整数部分最多7位。超过范围会受产品规则处理,超过刻度也可能先舍入,并非原文所说一律非法;对实际输入和计算结果必须核对厂商行为。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      这里的刻度即指小数点后的位数。小数部分的数字也算在其有效位中,因此,精度9刻度2意味着可以存储1234567.89,而12345678.91或者123456.789都是非法值。 应用在某一列上的精度和刻度会影响到这一列中的每一行记录,也就是说,你无法在某些行上存储刻度为2的记录,同时又在另一些行上存储刻度为4的记录。在SQL中一列的数据类型对于这一列中的每条

    参考来源

    - 位置:《SQL反模式 (图灵程序设计丛书 48)》第10章《10.5 解决方案:使用NUMERIC 类型》(spine2;extracted/SQL反模式 (图灵程序设计丛书 48)/_epub-src/OEBPS/text00000.html;u139-ch10-010)。 - 结论依据:原文在“这里的刻度即指小数点后的位数”附近的定义、例子或代码支撑本卡核心说明:精度是允许的总有效数字数,刻度是小数点后的位数。边界按已读前提解释;示例未执行。 - 原始内容:这里的刻度即指小数点后的位数。小数部分的数字也算在其有效位中,因此,精度9刻度2意味着可以存储1234567.89,而12345678.91或者123456.789都是非法值。 应用在某一列上的精度和刻度会影响到这一列中的每一行记录,也就是说,你无法在某些行上存储刻度为2的记录,同时又在另一些行上存储刻度为4的记录。在SQL中一列的数据类型对于这一列中的每条