知识卡片
小数精度不是小数点后位数
decimal上下文的prec规定运算有效数字总数,不能当小数点后位数。原文把prec=2用于两小数并显示2000.33的例子不支撑该解释:Decimal字符串构造保存输入,不按prec自动舍入。处理固定小数位还需明确量化规则,不能只改prec。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- · 查看原书依据
设置全局精度 decimal模块中的其他工具可以用来设置所有小数数值的精度、设置错误处理等。例如,这个模块中的一个上下文对象允许指定精度(小数位数)和舍入模式(舍去、进位等)。该精度全局性地适用于调用线程中创建的所有小数: 这对于处理货币的应用程序特别有用,其中,美分表示为两个小数位数。在这个上下文里,小数实际上是手动舍入和字符串格式化的一种替代方式: 小数
参考来源
- 位置:《Python学习手册(原书第4版)》第5章《小数数字》(spine537;extracted/OReilly精品图书系列共21册(《Javascript权威指南》、《机器学习:实用案例解析》、《编写可读代码的艺术》、《算法精解》等)/_epub-src/text/part0508.html;u148-ch05-019)。
- 结论依据:原文在“设置全局精度”附近的定义、例子或代码支撑本卡核心说明:decimal上下文的prec规定运算有效数字总数,不能当小数点后位数。边界按已读前提解释;示例未执行。
- 原始内容:设置全局精度 decimal模块中的其他工具可以用来设置所有小数数值的精度、设置错误处理等。例如,这个模块中的一个上下文对象允许指定精度(小数位数)和舍入模式(舍去、进位等)。该精度全局性地适用于调用线程中创建的所有小数: 这对于处理货币的应用程序特别有用,其中,美分表示为两个小数位数。在这个上下文里,小数实际上是手动舍入和字符串格式化的一种替代方式: 小数