Вычитание плавающей точки полярностей возвращает неправильное значениеPython

Программы на Python
Anonymous
 Вычитание плавающей точки полярностей возвращает неправильное значение

Сообщение Anonymous »

Почему Polars не дает стабильного результата при вычитании 0,01 из диапазона значений и какой обходной путь?
Ожидаемый результат:
0.01
0.02
0.03
0.04
0.05

Фактический результат:
0.01
0.019999999999999997
0.03
0.04
0.049999999999999996

Пример кода ниже.
# Import Polars.
import polars as pl

# Iterate from 2 to 6.
for i in range (2,7):

# Create some dummy data.
df = pl.DataFrame(
{'Data': [i/100]}
)

# Do a subtraction.
df = df.with_columns(
pl.col('Data') - 0.01
)

# Return the value as a scalar.
value = df.item()

# Output
print(value)


Подробнее здесь: https://stackoverflow.com/questions/793 ... rect-value

Вернуться в «Python»