Я наткнулся на неудачный модульный тест, который включает преобразование чисел типа double в целые числа.
Фактическое число, которое преобразуется, составляет 1,234 * 1000., и в основном код сводится к следующему:
#include
#include
int64_t deltatime(double numSeconds) {
return (int64_t) (numSeconds * 1000.0);
}
int main() {
double s = 1.234;
int64_t ms = deltatime(s);
std::cout
Подробнее здесь: https://stackoverflow.com/questions/791 ... ding-error
Усечение чисел с плавающей запятой до int на x86 и x86_64 имеет разную ошибку округления ⇐ C++
-
- Похожие темы
- Ответы
- Просмотры
- Последнее сообщение
-
-
Усечение чисел с плавающей запятой до int на x86 и x86_64 имеет разную ошибку округления
Anonymous » » в форуме C++ - 0 Ответы
- 16 Просмотры
-
Последнее сообщение Anonymous
-
-
-
Усечение чисел с плавающей запятой до int на x86 и x86_64 имеет разную ошибку округления
Anonymous » » в форуме C++ - 0 Ответы
- 10 Просмотры
-
Последнее сообщение Anonymous
-
-
-
Как преобразовать список[int, int, int] в кортеж[int, int, int], а не в кортеж[int, ...]
Anonymous » » в форуме Python - 0 Ответы
- 291 Просмотры
-
Последнее сообщение Anonymous
-