Насколько мне известно, из-за стандарта IEEE 754 чрезвычайно большие числа, вводимые пользователем, не сохраняются точно в двоичном формате. Когда такие неточно сохраненные значения преобразуются обратно в десятичные числа для отображения на консоли, должен ли вывод оставаться одинаковым в разных операционных системах (Windows/Linux) и архитектурах ЦП?
Я спрашиваю, потому что мой клиент использует JDBC, и мы заметили, что выходные значения различаются в средах Windows и Linux. Например, после сохранения 123456.6543214586532653516 в базе данных и печати его на консоль из систем Linux и Windows результаты будут разными:
Linux: 123456.65432145866000000000
Windows: 123456.65432145864000000000
Я понимаю, что входное значение невозможно точно сохранить из-за ограничений представления с плавающей запятой, но я не понимаю, почему вывод консоли различается в зависимости от среды.
Для дальнейшего исследования я протестировал одно и то же значение на Python и Java в своих средах x86 Windows и x86 Linux. В частности, я присвоил значение 123456.6543214586532653516 переменной и вывел его прямо на консоль. В обеих средах выходные данные всегда были 123456.65432145866 независимо от операционной системы или виртуальной машины.
Может ли кто-нибудь объяснить, что может быть причиной этого несоответствия?
Эта проблема, если быть более конкретным, возникла из-за вопроса, который мой коллега получил от клиента. Поскольку это не вопрос, который я получил напрямую, и поскольку мы с коллегой решаем разные задачи, имеющаяся у меня информация, к сожалению, ограничена той, которой я делюсь здесь. Я и мой коллега работаем в компании по производству баз данных под названием Tibero, которая поддерживает запросы, аналогичные тем, которые используются в Oracle. Клиент сообщил, что при запуске одного и того же кода Java он получает разные результаты в Windows и Linux. К сожалению, код Java принадлежит заказчику, поэтому мы не можем его передать. Однако клиент отметил, что следующий SQL-запрос, выполненный в tbsql — инструменте CLI нашей компании, похожем на sqlplus, — также приводит к такому же несоответствию:
CREATE TABLE convert_test(c1 BINARY_DOUBLE);
INSERT INTO convert_test VALUES(123456.6543214586532653516);
SELECT TO_CHAR(c1, '999999999999999D9999999999999999999', 'NLS_NUMERIC_CHARACTERS = ''.'''') AS formatted_value
FROM convert_test;
К сожалению, мне не удалось воспроизвести проблему в своей среде. Я понимаю, что Tibero, возможно, не является для вас знакомым или легкодоступным продуктом, и я ценю трудности, которые могут возникнуть при поиске ответа.
Просто чтобы проверить, я также установил PostgreSQL на как для Windows, так и для Linux, и выполнил следующий запрос. Результаты были одинаковыми на всех платформах без каких-либо различий:
CREATE TABLE convert_test (
c1 DOUBLE PRECISION
);
INSERT INTO convert_test VALUES (123456.6543214586532653516);
SELECT C1 FROM CONVERT_TEST;
c1
--------------------
123456.65432145866
Подробнее здесь: https://stackoverflow.com/questions/793 ... -platforms
Почему выходные данные с плавающей запятой различаются на разных платформах? ⇐ JAVA
-
- Похожие темы
- Ответы
- Просмотры
- Последнее сообщение
-
-
Почему выходные данные с плавающей запятой различаются на разных платформах?
Anonymous » » в форуме JAVA - 0 Ответы
- 21 Просмотры
-
Последнее сообщение Anonymous
-
-
-
Почему выходные данные с плавающей запятой различаются на разных платформах?
Anonymous » » в форуме JAVA - 0 Ответы
- 16 Просмотры
-
Последнее сообщение Anonymous
-
-
-
Почему выходные данные с плавающей запятой различаются на разных платформах?
Anonymous » » в форуме JAVA - 0 Ответы
- 12 Просмотры
-
Последнее сообщение Anonymous
-
-
-
Почему выходные данные с плавающей запятой различаются на разных платформах?
Anonymous » » в форуме JAVA - 0 Ответы
- 12 Просмотры
-
Последнее сообщение Anonymous
-
-
-
Почему выходные данные с плавающей запятой различаются на разных платформах?
Anonymous » » в форуме JAVA - 0 Ответы
- 9 Просмотры
-
Последнее сообщение Anonymous
-