主页 / 问题 / 813574
Accepted
Мистер Фикс
Asked:2020-04-13 13:09:33 +0000 UTC2020-04-13 13:09:33 +0000 UTC

十进制模块：意外四舍五入为整数

  • 772
    with decimal.localcontext() as ctx:
        ctx.prec = 7
        a = decimal.Decimal(15100000)
        b = decimal.Decimal(-2125.234523452345)
        c = a + b  # Decimal('1.509787E+7')
        print(float(c))  # 15097870.0

在最后一行中，您可以看到他没有四舍五入到小数点后七位，而是一般在小数点后七位。

我勒个去？

如何使它精确到小数点后七位？

python

1 个回答

  1. Best Answer

    您误解了Decimal. 尽管它Decimal旨在克服限制float（有限的准确性和根本不可能准确地写出一些小数，例如 0.3），但它基于类似的数字表示原则。中的任何数字都Decimal写为尾数乘以指数：

    123.456 = 1.23456 * 10^2
          ^          ^
          |          |
      мантисса   экспонента

    并且精度 inDecimal影响尾数的十进制表示的精度，而不是数字中小数点后的位数。在数学运算过程中会考虑精度：

    with localcontext() as ctx:
    ctx.prec = 2
    x = Decimal(123.456)
    print(float(x))       # 123.456 - ожидаемо
    y = Decimal(457.789)
    print(float(y))       # 457.789 - ожидаемо
    z = x + y
    print(float(z))       # 580.0, а не 581.24

    在本例中，将 123.456 ( 1.23456 * 10^2) 和 457.789 ( 4.57789 * 10^2)相加得到5.81245 * 10^2。但是由于我们将尾数表示的精度设置为 2 位，因此将多余的数字四舍五入，结果5.8 * 10^2为 ，即 580.0。

    如果您需要将数字四舍五入到某个小数位，那么您需要为此使用函数round()，而不是计算精度Decimal：

    a = Decimal(15100000)
b = Decimal(-2125.234523452345)
c = a + b
print(c)            # Decimal('15097874.76547654765499828500')
print(round(c, 7))  # Decimal('15097874.7654765')
    • 5

相关问题