Вопросы по теме 'precision'

Почему std::abs(9484282305798401ull) = 9484282305798400?
В настоящее время я пишу шаблонный вспомогательный метод, который может преобразовывать числа C в целом (включая unsigned long long) в числа mpz_class в библиотеке GMP. Между ними есть вызов std::abs . Однако оказывается, что для C++17 (g++...
530 просмотров
schedule 13.01.2024

Что именно происходит при умножении двойного значения на 10
Недавно я задумался об умножении чисел с плавающей запятой. Предположим, у меня есть число, например 3,1415, с гарантированной точностью до трех цифр. Теперь я умножаю это значение на 10 и получаю 31,415X, где X — цифра, которую я не могу определить...
422 просмотров
schedule 13.12.2023