知识卡片

问题卡 · 5591.e.1

小数精度不是小数点后位数

理解等级:中级

decimal上下文的prec规定运算有效数字总数,不能当小数点后位数。原文把prec=2用于两小数并显示2000.33的例子不支撑该解释:Decimal字符串构造保存输入,不按prec自动舍入。处理固定小数位还需明确量化规则,不能只改prec。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      设置全局精度 decimal模块中的其他工具可以用来设置所有小数数值的精度、设置错误处理等。例如,这个模块中的一个上下文对象允许指定精度(小数位数)和舍入模式(舍去、进位等)。该精度全局性地适用于调用线程中创建的所有小数: 这对于处理货币的应用程序特别有用,其中,美分表示为两个小数位数。在这个上下文里,小数实际上是手动舍入和字符串格式化的一种替代方式: 小数

    参考来源

    - 位置:《Python学习手册(原书第4版)》第5章《小数数字》(spine537;extracted/OReilly精品图书系列共21册(《Javascript权威指南》、《机器学习:实用案例解析》、《编写可读代码的艺术》、《算法精解》等)/_epub-src/text/part0508.html;u148-ch05-019)。 - 结论依据:原文在“设置全局精度”附近的定义、例子或代码支撑本卡核心说明:decimal上下文的prec规定运算有效数字总数,不能当小数点后位数。边界按已读前提解释;示例未执行。 - 原始内容:设置全局精度 decimal模块中的其他工具可以用来设置所有小数数值的精度、设置错误处理等。例如,这个模块中的一个上下文对象允许指定精度(小数位数)和舍入模式(舍去、进位等)。该精度全局性地适用于调用线程中创建的所有小数: 这对于处理货币的应用程序特别有用,其中,美分表示为两个小数位数。在这个上下文里,小数实际上是手动舍入和字符串格式化的一种替代方式: 小数