知识卡片
十进制精度与刻度不同
精度是允许的总有效数字数,刻度是小数点后的位数。以通常的NUMERIC(9,2)为例,共9位,其中2位小数,整数部分最多7位。超过范围会受产品规则处理,超过刻度也可能先舍入,并非原文所说一律非法;对实际输入和计算结果必须核对厂商行为。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- · 查看原书依据
这里的刻度即指小数点后的位数。小数部分的数字也算在其有效位中,因此,精度9刻度2意味着可以存储1234567.89,而12345678.91或者123456.789都是非法值。 应用在某一列上的精度和刻度会影响到这一列中的每一行记录,也就是说,你无法在某些行上存储刻度为2的记录,同时又在另一些行上存储刻度为4的记录。在SQL中一列的数据类型对于这一列中的每条
参考来源
- 位置:《SQL反模式 (图灵程序设计丛书 48)》第10章《10.5 解决方案:使用NUMERIC 类型》(spine2;extracted/SQL反模式 (图灵程序设计丛书 48)/_epub-src/OEBPS/text00000.html;u139-ch10-010)。
- 结论依据:原文在“这里的刻度即指小数点后的位数”附近的定义、例子或代码支撑本卡核心说明:精度是允许的总有效数字数,刻度是小数点后的位数。边界按已读前提解释;示例未执行。
- 原始内容:这里的刻度即指小数点后的位数。小数部分的数字也算在其有效位中,因此,精度9刻度2意味着可以存储1234567.89,而12345678.91或者123456.789都是非法值。 应用在某一列上的精度和刻度会影响到这一列中的每一行记录,也就是说,你无法在某些行上存储刻度为2的记录,同时又在另一些行上存储刻度为4的记录。在SQL中一列的数据类型对于这一列中的每条