Вопросы с тегом «floating-point»

86
Как я могу преобразовать строку в число в Perl?

У меня есть строка, содержащая десятичное значение, и мне нужно преобразовать эту строку в переменную с плавающей запятой. Итак, у меня есть пример строки «5.45», и мне нужен эквивалент с плавающей запятой, чтобы я мог добавить к нему .1. Я искал в Интернете, но вижу только, как преобразовать...

85
Как мне проводить сравнение с плавающей запятой?

В настоящее время я пишу код, в котором есть что-то вроде: double a = SomeCalculation1(); double b = SomeCalculation2(); if (a < b) DoSomething2(); else if (a > b) DoSomething3(); А потом в других местах мне может понадобиться выполнить равенство: double a = SomeCalculation3(); double b =...

85
JavaScript: округлить до числа десятичных знаков, но удалить лишние нули

Вот сценарий: я получаю, .9999999999999999когда должен 1.0. Я могу позволить себе потерять десятичный знак точности, поэтому я использую .toFixed(15), какие работы. Округление работает, но проблема в том, что мне дали 1.000000000000000. Есть ли способ округлить до числа десятичных знаков, но...

84
Как округлить число с плавающей запятой до определенного десятичного знака?

Предположим, у меня есть 8.8333333333333339, и я хочу преобразовать его в 8.84. Как я могу сделать это на Python? round(8.8333333333333339, 2)дает 8.83и нет 8.84. Я новичок в Python или программировании в целом. Я не хочу печатать это как строку, и результат будет использован в дальнейшем. Для...

84
Использование плавающей точки в ядре Linux

Я читал книгу Роберта Лава «Разработка ядра Linux» и наткнулся на следующий отрывок: Нет (простого) использования плавающей точки Когда процесс пользовательского пространства использует инструкции с плавающей запятой, ядро ​​управляет переходом из целочисленного режима в режим с плавающей запятой....

82
Как преобразовать целое число в число с плавающей запятой в Java?

У меня есть два целых числа xи y. Мне нужно рассчитать, x/yи в результате я бы хотел получить плавающий. Например в результате 3/2хотелось бы иметь 1.5. Я думал , что самый простой (или единственный) способ сделать это , чтобы преобразовать xи yв тип с плавающей точкой. К сожалению, я не могу...

82
Что такое субнормальное число с плавающей запятой?

Справочная страница isnormal () сообщает: Определяет, является ли данное число с плавающей запятой arg нормальным, т. Е. Не равно нулю, субнормальному, бесконечному или NaN. Число, равное нулю, бесконечности или NaN, ясно, что это означает. Но это также говорит о субнормальном. Когда число...

36
Какой правильный / стандартный способ проверить, меньше ли разница, чем точность станка?

Я часто оказываюсь в ситуациях, когда необходимо проверить, превышает ли полученная разница точность станка. Похоже , что для этой цели R имеет удобную переменную: .Machine$double.eps. Однако, когда я обращаюсь к исходному коду R за рекомендациями по использованию этого значения, я вижу несколько...

14
Когда использовать float против десятичного

Я создаю этот API, и в базе данных будут храниться значения, представляющие одно из следующих: процент средний ставка Я, честно говоря, понятия не имею, как представить что-то, что диапазон составляет от 0 до 100% в цифрах. Должно ли это быть 0,00 - 1,00 0,00 - 100,00 любая другая альтернатива,...

12
Эффективная стабильная сумма упорядоченных чисел

У меня есть довольно длинный список положительных чисел с плавающей точкой ( std::vector<float>, размер ~ 1000). Числа отсортированы в порядке убывания. Если я суммирую их в следующем порядке: for (auto v : vec) { sum += v; } Я предполагаю, что у меня может быть некоторая проблема с числовой...

12
Странное поведение (^) в Haskell

Почему GHCi дает неправильный ответ ниже? GHCi λ> ((-20.24373193905347)^12)^2 - ((-20.24373193905347)^24) 4.503599627370496e15 python3 >>> ((-20.24373193905347)**12)**2 - ((-20.24373193905347)**24) 0.0 ОБНОВЛЕНИЕ Я бы реализовал функцию Haskell (^) следующим образом. powerXY :: Double...

9
Допустимый синтаксис вызова псевдодеструктора для плавающей константы

Рассмотрим следующую демонстрационную программу. #include <iostream> int main() { typedef float T; 0.f.T::~T(); } Эта программа составлена Microsoft Visual Studio Community 2019. Но clangи gccвыдать ошибку, как это prog.cc:7:5: error: unable to find numeric literal operator 'operator""f.T' 7...