Вопросы с тегом «decimal»

Десятичная дробь - это название нашей общей системы счисления с основанием десять. Это может также относиться к нецелым значениям, выраженным десятичной точкой.

1259
Как округлить число до n знаков после запятой в Java

То, что я хотел бы, - это метод преобразования двойного числа в строку, которая округляется с использованием метода половинного увеличения - то есть, если десятичное число округляется до 5, оно всегда округляется до следующего числа. Это стандартный метод округления, которого большинство людей...

672
Преобразовать десятичное число в двойное

Я хочу использовать a, Track-Barчтобы изменить Formнепрозрачность. Это мой код: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Когда я создаю приложение, оно выдает следующую ошибку: Невозможно неявно преобразовать тип decimalвdouble Я попытался с помощью transи , doubleно тогда...

649
Как округлить десятичное значение до 2 десятичных знаков (для вывода на страницу)

При отображении значения десятичной дроби, имеющегося в данный момент .ToString(), точные значения равны 15 десятичным знакам, и, поскольку я использую его для представления долларов и центов, я хочу, чтобы выходные данные составляли только 2 десятичных знака. Я использую вариант .ToString()для...

507
ArithmeticException: «Не заканчивающееся десятичное расширение; нет точного представимого десятичного результата »

Почему следующий код вызывает исключение, показанное ниже? BigDecimal a = new BigDecimal("1.6"); BigDecimal b = new BigDecimal("9.2"); a.divide(b) // results in the following exception. Исключение: java.lang.ArithmeticException: Non-terminating decimal expansion; no exact representable decimal...

304
Двойной против BigDecimal?

Я должен вычислить некоторые переменные с плавающей точкой, и мой коллега предлагает мне использовать BigDecimalвместо, doubleтак как это будет более точным. Но я хочу знать, что это такое и как извлечь из этого максимум...

283
Число с плавающей запятой и десятичное в ActiveRecord

Иногда типы данных Activerecord сбивают меня с толку. Часто Один из моих вечных вопросов, для данного случая, Я должен использовать :decimalили :float? Я часто сталкивался с этой ссылкой ActiveRecord:: decimal vs: float? , но ответы не совсем ясны, чтобы я был уверен: Я видел много потоков, в...

273
Как хранить десятичные значения в SQL Server?

Я пытаюсь выяснить десятичный тип данных столбца в SQL Server. Мне нужно иметь возможность хранить значения, как 15,5, 26,9, 24,7, 9,8 и т. Д. Я назначил decimal(18, 0)тип данных столбца, но это не позволило мне сохранить эти значения. Как правильно это...

265
Когда я должен использовать двойное вместо десятичного?

Я могу назвать три преимущества использования double(или float) вместо decimal: Использует меньше памяти. Быстрее, потому что математические операции с плавающей запятой изначально поддерживаются процессорами. Может представлять больший диапазон чисел. Но эти преимущества, по-видимому, применимы...

248
Получить десятичную часть числа с помощью JavaScript

У меня есть числа с плавающей точкой, как 3.2и 1.6. Мне нужно разделить число на целое и десятичное число. Например, значение 3.2будет разделено на два числа, то есть 3и0.2 Получить целую часть легко: n = Math.floor(n); Но у меня проблемы с получением десятичной части. Я пробовал это: remainer = n...

245
Как мне интерпретировать точность и масштаб числа в базе данных?

У меня есть следующий столбец, указанный в базе данных: десятичный (5,2) Как можно это интерпретировать? В соответствии со свойствами столбца, которые отображаются в SQL Server Management Studio, я вижу, что это означает: десятичное число (точность чисел, числовой масштаб). Что означают точность и...

242
Python JSON сериализует десятичный объект

У меня есть Decimal('3.9')как часть объекта, и я хочу закодировать это в строку JSON, которая должна выглядеть следующим образом {'x': 3.9}. Меня не волнует точность на стороне клиента, поэтому с плавающей точкой все в порядке. Есть ли хороший способ сериализовать это? JSONDecoder не принимает...

217
Округление BigDecimal до * всегда * имеет два десятичных знака

Я пытаюсь округлить значения BigDecimal до двух десятичных знаков. я использую BigDecimal rounded = value.round(new MathContext(2, RoundingMode.CEILING)); logger.trace("rounded {} to {}", value, rounded); но он не делает то, что я хочу последовательно: rounded 0.819 to 0.82 rounded 1.092 to 1.1...