Вопросы с тегом «floating-point»

Числа с плавающей запятой представляют собой аппроксимацию действительных чисел, которые могут представлять большие диапазоны, чем целые числа, но используют тот же объем памяти за счет меньшей точности. Если ваш вопрос касается небольших арифметических ошибок (например, почему 0,2 + 0,1 равно 0,300000001?) Или десятичных ошибок преобразования, пожалуйста, прочитайте страницу информации, приведенную ниже, перед публикацией.

2253
Как мне разобрать строку в float или int?

В Python, как я могу разобрать числовую строку , как "545.2222"его соответствующее значение поплавка 545.2222? Или разобрать строку "31"в целое число 31? Я просто хочу знать , как разобрать поплавок str на float, и (отдельно) в Int str к...

2120
Почему GCC не оптимизирует a * a * a * a * a * a до (a * a * a) * (a * a * a)?

Я делаю некоторую числовую оптимизацию для научного приложения. Одна вещь, которую я заметил, заключается в том, что GCC оптимизирует вызов pow(a,2), компилируя его a*a, но вызов pow(a,6)не оптимизируется и фактически вызовет библиотечную функцию pow, что значительно снижает производительность. (В...

1611
Как проверить, является ли строка числом (с плавающей точкой)?

Каков наилучший способ проверить, может ли строка представляться как число в Python? У меня сейчас есть функция: def is_number(s): try: float(s) return True except ValueError: return False Который, не только уродлив и медлителен, кажется неуклюжим. Однако я не нашел лучшего метода, потому что вызов...

819
Есть ли в HTML5 тип ввода с плавающей точкой?

Согласно html5.org , атрибут «value» входного типа «number», если он указан и не пустой, должен иметь значение, которое является допустимым числом с плавающей запятой ». Тем не менее, это просто (в последней версии Chrome, во всяком случае) элемент управления «обновлением» с целыми числами, а не с...

783
Формат номера, чтобы всегда показывать 2 десятичных знака

Я хотел бы отформатировать мои числа, чтобы всегда отображать 2 десятичных знака, округляя, где это применимо. Примеры: number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35 Я использовал это: parseFloat(num).toFixed(2); Но это отображается 1как 1, а не...

721
Как я могу заставить деление быть плавающей точкой? Деление продолжает округляться до 0?

У меня есть два целых значения aи b, но мне нужно их соотношение в плавающей запятой. Я знаю это a < bи хочу вычислить a / b, поэтому, если я использую целочисленное деление, я всегда получу 0 с остатком от a. Как я могу заставить cбыть числом с плавающей точкой в ​​Python в следующем? c = a /...

672
Преобразовать десятичное число в двойное

Я хочу использовать a, Track-Barчтобы изменить Formнепрозрачность. Это мой код: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Когда я создаю приложение, оно выдает следующую ошибку: Невозможно неявно преобразовать тип decimalвdouble Я попытался с помощью transи , doubleно тогда...

620
Как бороться с точностью чисел с плавающей точкой в ​​JavaScript?

У меня есть следующий тестовый скрипт: function test() { var x = 0.1 * 0.2; document.write(x); } test(); Выполнить фрагмент кодаСкрыть результатыРазвернуть фрагмент Это напечатает результат, в 0.020000000000000004то время как он должен просто напечатать 0.02(если вы используете свой калькулятор)....

524
Какой самый эффективный способ сравнения с плавающей запятой и двойного сравнения?

Какой самый эффективный способ сравнить два doubleили два floatзначения? Просто делать это не правильно bool CompareDoubles1 (double A, double B) { return A == B; } Но что-то вроде: bool CompareDoubles2 (double A, double B) { diff = A - B; return (diff < EPSILON) && (-diff < EPSILON);...

496
Как красиво отформатировать плавающие числа в строку без лишних десятичных 0?

64-битный дубль может точно представлять целое число +/- 2 53 Учитывая этот факт, я решил использовать двойной тип как один тип для всех моих типов, так как мое самое большое целое число - 32-разрядное без знака. Но теперь я должен напечатать эти псевдоцелые числа, но проблема в том, что они также...

488
Как вы округлите число в Python?

Эта проблема убивает меня. Как собрать число UP в Python? Я попытался округлить (число), но оно округлило число вниз. Пример: round(2.3) = 2.0 and not 3, what I would like Я попробовал int (число + .5), но он снова округлил число вниз! Пример: int(2.3 + .5) = 2 Затем я попытался раунд (число + .5),...