Вопросы с тегом «decimal»

В чем разница decimal, floatи doubleв .NET? Когда кто-нибудь будет использовать один из

То, что я хотел бы, - это метод преобразования двойного числа в строку, которая округляется с использованием метода половинного увеличения - то есть, если десятичное число округляется до 5, оно всегда округляется до следующего числа. Это стандартный метод округления, которого большинство людей...

Я хочу использовать a, Track-Barчтобы изменить Formнепрозрачность. Это мой код: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Когда я создаю приложение, оно выдает следующую ошибку: Невозможно неявно преобразовать тип decimalвdouble Я попытался с помощью transи , doubleно тогда...

При отображении значения десятичной дроби, имеющегося в данный момент .ToString(), точные значения равны 15 десятичным знакам, и, поскольку я использую его для представления долларов и центов, я хочу, чтобы выходные данные составляли только 2 десятичных знака. Я использую вариант .ToString()для...

Почему следующий код вызывает исключение, показанное ниже? BigDecimal a = new BigDecimal("1.6"); BigDecimal b = new BigDecimal("9.2"); a.divide(b) // results in the following exception. Исключение: java.lang.ArithmeticException: Non-terminating decimal expansion; no exact representable decimal...

Я хочу сделать это с помощью

Чтобы работать с десятичными типами данных, я должен сделать это с инициализацией переменной: decimal aValue = 50.0M; Что означает

Я должен вычислить некоторые переменные с плавающей точкой, и мой коллега предлагает мне использовать BigDecimalвместо, doubleтак как это будет более точным. Но я хочу знать, что это такое и как извлечь из этого максимум...

Иногда типы данных Activerecord сбивают меня с толку. Часто Один из моих вечных вопросов, для данного случая, Я должен использовать :decimalили :float? Я часто сталкивался с этой ссылкой ActiveRecord:: decimal vs: float? , но ответы не совсем ясны, чтобы я был уверен: Я видел много потоков, в...

Я пытаюсь выяснить десятичный тип данных столбца в SQL Server. Мне нужно иметь возможность хранить значения, как 15,5, 26,9, 24,7, 9,8 и т. Д. Я назначил decimal(18, 0)тип данных столбца, но это не позволило мне сохранить эти значения. Как правильно это...

Я могу назвать три преимущества использования double(или float) вместо decimal: Использует меньше памяти. Быстрее, потому что математические операции с плавающей запятой изначально поддерживаются процессорами. Может представлять больший диапазон чисел. Но эти преимущества, по-видимому, применимы...

У меня есть числа с плавающей точкой, как 3.2и 1.6. Мне нужно разделить число на целое и десятичное число. Например, значение 3.2будет разделено на два числа, то есть 3и0.2 Получить целую часть легко: n = Math.floor(n); Но у меня проблемы с получением десятичной части. Я пробовал это: remainer = n...

У меня есть следующий столбец, указанный в базе данных: десятичный (5,2) Как можно это интерпретировать? В соответствии со свойствами столбца, которые отображаются в SQL Server Management Studio, я вижу, что это означает: десятичное число (точность чисел, числовой масштаб). Что означают точность и...

Как я могу сравнить, если BigDecimalзначение больше

У меня есть Decimal('3.9')как часть объекта, и я хочу закодировать это в строку JSON, которая должна выглядеть следующим образом {'x': 3.9}. Меня не волнует точность на стороне клиента, поэтому с плавающей точкой все в порядке. Есть ли хороший способ сериализовать это? JSONDecoder не принимает...

Попытка удалить все буквы и символы, которые не являются 0-9 и точка. Я использую, Character.isDigit()но он также удаляет десятичную дробь, как я могу также сохранить...

Я экспериментирую с этим первым подходом к коду, но теперь выясняю, что свойство типа System.Decimal отображается на столбец sql типа decimal (18, 0). Как мне установить точность столбца базы...

Как мне преобразовать десятичную в

Я пытаюсь округлить значения BigDecimal до двух десятичных знаков. я использую BigDecimal rounded = value.round(new MathContext(2, RoundingMode.CEILING)); logger.trace("rounded {} to {}", value, rounded); но он не делает то, что я хочу последовательно: rounded 0.819 to 0.82 rounded 1.092 to 1.1...

Как можно округлить значение с плавающей запятой (например, 37,777779) до двух десятичных знаков (37,78) в