Вопросы с тегом «rounding»

123
round () не округляется правильно

В документации для функции round () указано, что вы передаете ей число, а позиции после десятичной дроби нужно округлять. Таким образом, он должен сделать это: n = 5.59 round(n, 1) # 5.6 Но, на самом деле, вкрадывается старая добрая странность с плавающей запятой, и вы получаете: 5.5999999999999996...

118
Scala Doubles и точность

Есть ли функция, которая может обрезать или округлять Double? В какой-то момент в моем коде я хотел бы, чтобы число вроде: 1.23456789было округлено

115
Javascript: округлить до следующего кратного 5

Мне нужна служебная функция, которая принимает целочисленное значение (от 2 до 5 цифр в длину), которое округляется до следующего кратного 5 вместо ближайшего кратного 5. Вот что я получил: function round5(x) { return (x % 5) >= 2.5 ? parseInt(x / 5) * 5 + 5 : parseInt(x / 5) * 5; } Когда я бегу...

114
преобразование двойного в целое число в Java

В Java я хочу преобразовать двойное число в целое число, я знаю, если вы это сделаете: double x = 1.5; int y = (int)x; вы получите y = 1. Если вы сделаете это: int y = (int)Math.round(x); Скорее всего, вы получите 2. Однако мне интересно: поскольку двойные представления целых чисел иногда выглядят...

109
Усечь два десятичных разряда без округления

Допустим, у меня есть значение 3,4679, а мне нужно 3,46, как я могу усечь его до двух десятичных знаков без округления в большую сторону? Я пробовал следующее, но все три дали мне 3,47: void Main() { Console.Write(Math.Round(3.4679, 2,MidpointRounding.ToEven)); Console.Write(Math.Round(3.4679,...

107
Проверить, является ли число целым

Я был удивлен, узнав, что в R нет удобной функции для проверки целого числа. is.integer(66) # FALSE Эти файлы справки предупреждает : is.integer(x)не проверяет, x содержит ли целые числа! Для этого используйте round, как в функции is.wholenumber(x)в примерах. В примере эта настраиваемая функция...

104
Javascript: форматирование округленного числа до N десятичных знаков

в JavaScript типичный способ округления числа до N десятичных знаков выглядит примерно так: function roundNumber(num, dec) { return Math.round(num * Math.pow(10, dec)) / Math.pow(10, dec); } Показать фрагмент кода function roundNumber(num, dec) { return Math.round(num * Math.pow(10, dec)) /...

102
Как округлить минуту объекта datetime

У меня есть datetimeобъект, созданный с использованием strptime(). >>> tm datetime.datetime(2010, 6, 10, 3, 56, 23) Мне нужно округлить минуту до ближайшей 10-й минуты. До этого момента я брал значение минут и использовал для него round (). min = round(tm.minute, -1) Однако, как и в...

96
Как округлить до ближайших 10 (или 100 или X)?

Я пишу функцию для построения данных. Я хотел бы указать красивое круглое число для оси Y max, которое больше максимума набора данных. В частности, мне нужна функция, fooкоторая выполняет следующее: foo(4) == 5 foo(6.1) == 10 #maybe 7 would be better foo(30.1) == 40 foo(100.1) == 110 Я дошел до...

93
Как в JavaScript округлить до целых чисел?

У меня есть следующий код для вычисления определенного процента: var x = 6.5; var total; total = x/15*100; // Result 43.3333333333 То, что я хочу получить в результате, - это точное число, 43и если общая сумма равна, 43.5ее следует округлить до44 Есть ли способ сделать это в JavaScript?...

88
Преобразование числа с плавающей запятой в строку без его округления

Я делаю программу, которая по причинам, не требующим объяснения, требует, чтобы число с плавающей запятой было преобразовано в строку для подсчета с помощью len (). Однако str (float (x)) приводит к округлению x при преобразовании в строку, что отбрасывает все. Кто-нибудь знает, как исправить это?...

85
JavaScript: округлить до числа десятичных знаков, но удалить лишние нули

Вот сценарий: я получаю, .9999999999999999когда должен 1.0. Я могу позволить себе потерять десятичный знак точности, поэтому я использую .toFixed(15), какие работы. Округление работает, но проблема в том, что мне дали 1.000000000000000. Есть ли способ округлить до числа десятичных знаков, но...

84
Как округлить до ближайшего целого числа в MySQL?

Как мне округлить до ближайшего целого числа в MySQL? Пример: 12345.7344 rounds to 12345 round()Функция mysql округляется вверх. Я не знаю, как долго будут значения и десятичные разряды, может быть 10 цифр с 4 десятичными знаками, может быть 2 цифры с 7 знаками после запятой....

83
Округление до произвольного количества значащих цифр

Как можно округлить любое число (не только целые числа> 0) до N значащих цифр? Например, если я хочу округлить до трех значащих цифр, я ищу формулу, которая могла бы принимать: 1,239,451 и доход 1,240,000 12.1257 и возврат 12.1 .0681 и возврат .0681 5 и возврат 5 Естественно, алгоритм не должен...

36
Какой правильный / стандартный способ проверить, меньше ли разница, чем точность станка?

Я часто оказываюсь в ситуациях, когда необходимо проверить, превышает ли полученная разница точность станка. Похоже , что для этой цели R имеет удобную переменную: .Machine$double.eps. Однако, когда я обращаюсь к исходному коду R за рекомендациями по использованию этого значения, я вижу несколько...