Название в основном говорит обо всем. Я использую десятичное значение везде, чтобы попытаться избавиться от ошибок с плавающей запятой, но это сохраняется. < /P>
Вот мой тестовый код < /p>
from decimal import Decimal
Demands = [9,12,8,11]
fM = Decimal(10)
alpha = Decimal(.01)
fM = Decimal((1 - Decimal(alpha)) * fM + Decimal(alpha) * Demands[(1) % 4])
print(fM)
< /code>
Но вывод все еще < /p>
10.02000000000000000041633363
Подробнее здесь: https://stackoverflow.com/questions/794 ... mal-python
Не могу устранить ошибки с плавающей запятой с десятичным значением (Python) ⇐ Python
-
- Похожие темы
- Ответы
- Просмотры
- Последнее сообщение
-
-
Проверка Kotlin BigDecimal Остаток() работает неправильно с десятичным значением инкремента.
Anonymous » » в форуме JAVA - 0 Ответы
- 13 Просмотры
-
Последнее сообщение Anonymous
-
-
-
Проверка Kotlin BigDecimal Остаток() работает неправильно с десятичным значением инкремента.
Anonymous » » в форуме JAVA - 0 Ответы
- 12 Просмотры
-
Последнее сообщение Anonymous
-