BigDecimals и Division приводят к неожиданному результату при округленииJAVA

Программисты JAVA общаются здесь
Ответить Пред. темаСлед. тема
Anonymous
 BigDecimals и Division приводят к неожиданному результату при округлении

Сообщение Anonymous »

В нашем коде мы должны сделать несколько расчетов. Они иногда приводят к небольшим ошибкам из -за проблем с округлением. Мы используем BigDecimals, но они могут привести к различиям, даже при использовании правильных математических контекстов и режимов округления. Пример при разделении 1 на 3 и снова умножение на 3: < /p>

Код: Выделить всё

BigDecimal divide = BigDecimal.ONE.divide(new BigDecimal("3"), MathContext.DECIMAL64); // 0.3333333333333333
BigDecimal result = divide.multiply(new BigDecimal("3")); // 0.9999999999999999
После результата округления на двух десятичных актимах с использованием SetScale (2, RoundingMode.half_up) мы получим 0,99 вместо ожидаемого 1,00. Кто -нибудь знает, как решить это с помощью BigDecimals или вместо этого использовать другую библиотеку?

Подробнее здесь: https://stackoverflow.com/questions/797 ... n-rounding
Реклама
Ответить Пред. темаСлед. тема

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

  • Похожие темы
    Ответы
    Просмотры
    Последнее сообщение
  • Умножение длинных целых чисел на C++, приводящее к неожиданному результату [дубликат]
    Anonymous » » в форуме C++
    0 Ответы
    31 Просмотры
    Последнее сообщение Anonymous
  • Угловые кронштейны приводят к результату re.split () стать пустой строкой [закрыто]
    Anonymous » » в форуме Python
    0 Ответы
    4 Просмотры
    Последнее сообщение Anonymous
  • Python Backtrader RSI ZerodivisionError: Float Division от Zero
    Anonymous » » в форуме Python
    0 Ответы
    26 Просмотры
    Последнее сообщение Anonymous
  • Python Backtrader RSI ZerodivisionError: Float Division от Zero
    Anonymous » » в форуме Python
    0 Ответы
    11 Просмотры
    Последнее сообщение Anonymous
  • Python Backtrader RSI ZerodivisionError: Float Division от Zero
    Anonymous » » в форуме Python
    0 Ответы
    52 Просмотры
    Последнее сообщение Anonymous

Вернуться в «JAVA»