Вопросы с тегом «floating-point»

258
Когда я должен использовать ключевое слово strictfp в Java?

Я посмотрел, что это делает, но есть ли у кого-нибудь пример, когда вы будете использовать strictfpключевое слово в Java? Кто-нибудь на самом деле нашел применение для этого? Будут ли какие-либо побочные эффекты от того, что я просто добавлю это на все мои операции с плавающей...

257
Какой тип данных MySQL следует использовать для широты / долготы с 8 знаками после запятой?

Я работаю с данными карты, и Latitude/Longitudeрасширяется до 8 десятичных знаков. Например: Latitude 40.71727401 Longitude -74.00898606 Я видел в документе Google, который использует: lat FLOAT( 10, 6 ) NOT NULL, lng FLOAT( 10, 6 ) NOT NULL однако их десятичные разряды идут только к 6. Должен ли я...

248
Получить десятичную часть числа с помощью JavaScript

У меня есть числа с плавающей точкой, как 3.2и 1.6. Мне нужно разделить число на целое и десятичное число. Например, значение 3.2будет разделено на два числа, то есть 3и0.2 Получить целую часть легко: n = Math.floor(n); Но у меня проблемы с получением десятичной части. Я пробовал это: remainer = n...

243
Добавить значение с плавающей запятой в ресурсы / значения Android

Я пытаюсь добавить немного пространства между строками в мои TextViews, используя android:lineSpacingMultiplier из документации : Дополнительный интервал между строками текста, как множитель. Должно быть значением с плавающей запятой, например, «1.2». Поскольку я использую это в нескольких...

242
Python JSON сериализует десятичный объект

У меня есть Decimal('3.9')как часть объекта, и я хочу закодировать это в строку JSON, которая должна выглядеть следующим образом {'x': 3.9}. Меня не волнует точность на стороне клиента, поэтому с плавающей точкой все в порядке. Есть ли хороший способ сериализовать это? JSONDecoder не принимает...

242
Как использовать деление с плавающей точкой в ​​Bash?

Я пытаюсь разделить две ширины изображения в скрипте Bash, но Bash дает мне 0 в результате: RESULT=$(($IMG_WIDTH/$IMG2_WIDTH)) Я изучил руководство по Bash и знаю, что должен использовать bcво всех примерах в Интернете, которые они используют bc. Вecho Я пытался поставить такую же вещь в моей ,...

232
round () для поплавка в C ++

Мне нужна простая функция округления с плавающей точкой, таким образом: double round(double); round(0.1) = 0 round(-0.1) = 0 round(-0.9) = -1 Я могу найти ceil()и floor()в математике - но нет round(). Он присутствует в стандартной библиотеке C ++ под другим именем или...

230
Конвертировать поплавки в панды в броню?

Я работал с данными, импортированными из CSV. Панды изменили некоторые столбцы на плавающие, так что теперь числа в этих столбцах отображаются как плавающие точки! Однако мне нужно, чтобы они отображались в виде целых чисел или без запятой. Есть ли способ преобразовать их в целые числа или не...

221
Формат Float до n десятичных знаков

Мне нужно отформатировать число с плавающей точкой "n" десятичных знаков. пытался BigDecimal, но возвращаемое значение не является правильным ... public static float Redondear(float pNumero, int pCantidadDecimales) { // the function is call with the values Redondear(625.3f, 2) BigDecimal value =...

220
Float и двойной тип данных в Java

Тип данных с плавающей запятой - это 32-битная плавающая точка IEEE 754 с одинарной точностью, а тип данных с двойной точностью - 64-битная плавающая точка IEEE 754 с двойной точностью. Что это означает? И когда я должен использовать float вместо double или...

210
Форматирование числа с плавающей точкой до 2 десятичных знаков

В настоящее время я создаю модуль продаж для веб-сайта клиентов. До сих пор у меня была идеальная цена продажи для расчета, но я застрял, отформатировав вывод в 2 десятичных знака. В настоящее время я вызываю это в переменной, чтобы данные могли связать результаты с представлением списка. Sale =...

203
Как проверить, является ли значение с плавающей точкой целым числом

Я пытаюсь найти самый большой корень куба, который является целым числом, которое составляет менее 12 000. processing = True n = 12000 while processing: n -= 1 if n ** (1/3) == #checks to see if this has decimals or not Я не уверен, как проверить, если это целое число или нет! Я мог бы...

198
Почему числа с плавающей запятой неточные?

Почему некоторые числа теряют точность при хранении в виде чисел с плавающей запятой? Например, десятичное число 9.2может быть выражено точно как отношение двух десятичных целых чисел ( 92/10), оба из которых могут быть выражены точно в двоичном ( 0b1011100/0b1010). Однако, то же самое отношение,...

193
Использование побитового ИЛИ 0 для создания числа

Мой коллега наткнулся на метод для получения чисел с плавающей запятой с использованием побитового или: var a = 13.6 | 0; //a == 13 Мы говорили об этом и задавались вопросом несколько вещей. Как это работает? Наша теория заключалась в том, что использование такого оператора приводит число к целому...

181
Форматирование поплавков без конечных нулей

Как я могу отформатировать число с плавающей запятой, чтобы оно не содержало конечных нулей? Другими словами, я хочу, чтобы полученная строка была максимально короткой. Например: 3 -> "3" 3. -> "3" 3.0 -> "3" 3.1 -> "3.1" 3.14 -> "3.14" 3.140 ->...