Вычитание плавающей точки полярностей возвращает неправильное значениеPython

Программы на Python
Ответить
Anonymous
 Вычитание плавающей точки полярностей возвращает неправильное значение

Сообщение Anonymous »

Почему Polars не дает стабильного результата при вычитании 0,01 из диапазона значений и какой обходной путь?
Ожидаемый результат:
0.01
0.02
0.03
0.04
0.05

Фактический результат:
0.01
0.019999999999999997
0.03
0.04
0.049999999999999996

Пример кода ниже.
# Import Polars.
import polars as pl

# Iterate from 2 to 6.
for i in range (2,7):

# Create some dummy data.
df = pl.DataFrame(
{'Data': [i/100]}
)

# Do a subtraction.
df = df.with_columns(
pl.col('Data') - 0.01
)

# Return the value as a scalar.
value = df.item()

# Output
print(value)


Подробнее здесь: https://stackoverflow.com/questions/793 ... rect-value
Ответить

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

Вернуться в «Python»