Числа с плавающей запятой представляют собой аппроксимацию действительных чисел, которые могут представлять большие диапазоны, чем целые числа, но используют тот же объем памяти за счет меньшей точности. Если ваш вопрос касается небольших арифметических ошибок (например, почему 0,2 + 0,1 равно 0,300000001?) Или десятичных ошибок преобразования, пожалуйста, прочитайте страницу информации, приведенную ниже, перед публикацией.
На этот вопрос есть ответы на Stack Overflow на русском : Вычисления на числах с плавающей точкой не работают Рассмотрим следующий код: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Почему эти неточности...
В Python, как я могу разобрать числовую строку , как "545.2222"его соответствующее значение поплавка 545.2222? Или разобрать строку "31"в целое число 31? Я просто хочу знать , как разобрать поплавок str на float, и (отдельно) в Int str к...
Я делаю некоторую числовую оптимизацию для научного приложения. Одна вещь, которую я заметил, заключается в том, что GCC оптимизирует вызов pow(a,2), компилируя его a*a, но вызов pow(a,6)не оптимизируется и фактически вызовет библиотечную функцию pow, что значительно снижает производительность. (В...
В чем разница decimal, floatи doubleв .NET? Когда кто-нибудь будет использовать один из
Я хочу aокругляться до 13,95 . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 roundФункция не работает так , как я
Каков наилучший способ проверить, может ли строка представляться как число в Python? У меня сейчас есть функция: def is_number(s): try: float(s) return True except ValueError: return False Который, не только уродлив и медлителен, кажется неуклюжим. Однако я не нашел лучшего метода, потому что вызов...
Почему этот бит кода, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.790, 1.812, 1.923, 2.034, 2.145, 2.256, 2.367, 2.478, 2.589, 2.690}; float y[16]; for (int i = 0; i <...
Мне всегда говорили никогда не изображать деньги doubleи не floatпечатать, и на этот раз я задаю вам вопрос: почему? Я уверен, что есть очень веская причина, я просто не знаю, что это...
Согласно html5.org , атрибут «value» входного типа «number», если он указан и не пустой, должен иметь значение, которое является допустимым числом с плавающей запятой ». Тем не менее, это просто (в последней версии Chrome, во всяком случае) элемент управления «обновлением» с целыми числами, а не с...
Я хотел бы отформатировать мои числа, чтобы всегда отображать 2 десятичных знака, округляя, где это применимо. Примеры: number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35 Я использовал это: parseFloat(num).toFixed(2); Но это отображается 1как 1, а не...
Есть ли способ перейти между 0 и 1 на 0,1? Я думал, что смогу сделать это следующим образом, но это не удалось: for i in range(0, 1, 0.1): print i Вместо этого он говорит, что аргумент шага не может быть нулем, чего я не...
У меня есть два целых значения aи b, но мне нужно их соотношение в плавающей запятой. Я знаю это a < bи хочу вычислить a / b, поэтому, если я использую целочисленное деление, я всегда получу 0 с остатком от a. Как я могу заставить cбыть числом с плавающей точкой в Python в следующем? c = a /...
Я хочу использовать a, Track-Barчтобы изменить Formнепрозрачность. Это мой код: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Когда я создаю приложение, оно выдает следующую ошибку: Невозможно неявно преобразовать тип decimalвdouble Я попытался с помощью transи , doubleно тогда...
У меня есть следующий тестовый скрипт: function test() { var x = 0.1 * 0.2; document.write(x); } test(); Выполнить фрагмент кодаСкрыть результатыРазвернуть фрагмент Это напечатает результат, в 0.020000000000000004то время как он должен просто напечатать 0.02(если вы используете свой калькулятор)....
В следующей программе вы можете видеть, что каждое значение немного меньше, чем .5округлено в меньшую сторону, кроме 0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); System.out.println(x + " rounded is " +...
Какой самый эффективный способ сравнить два doubleили два floatзначения? Просто делать это не правильно bool CompareDoubles1 (double A, double B) { return A == B; } Но что-то вроде: bool CompareDoubles2 (double A, double B) { diff = A - B; return (diff < EPSILON) && (-diff < EPSILON);...
64-битный дубль может точно представлять целое число +/- 2 53 Учитывая этот факт, я решил использовать двойной тип как один тип для всех моих типов, так как мое самое большое целое число - 32-разрядное без знака. Но теперь я должен напечатать эти псевдоцелые числа, но проблема в том, что они также...
Эта проблема убивает меня. Как собрать число UP в Python? Я попытался округлить (число), но оно округлило число вниз. Пример: round(2.3) = 2.0 and not 3, what I would like Я попробовал int (число + .5), но он снова округлил число вниз! Пример: int(2.3 + .5) = 2 Затем я попытался раунд (число + .5),...
Каков правильный спецификатор формата doubleв printf? Это %fили это %lf? Я верю %f, но я не уверен. Пример кода #include <stdio.h> int main() { double d = 1.4; printf("%lf", d); // Is this wrong? }
В JavaScript при преобразовании из числа с плавающей точкой в строку, как я могу получить только 2 цифры после десятичной точки? Например, 0,34 вместо