По вопросам, связанным с числовой точностью в программировании. Для точности классификации используйте тег [точность-отзыв].
Я хочу aокругляться до 13,95 . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 roundФункция не работает так , как я
Я читал о разнице между двойной точностью и одинарной точностью. Тем не менее, в большинстве случаев, floatи , doubleкажется, быть взаимозаменяемыми, то есть с помощью одного или другого , кажется, не влияют на результаты. Это действительно так? Когда поплавки и двойники взаимозаменяемы? Каковы...
Точность против точность Я хотел бы знать, должен ли я использовать System.currentTimeMillis () или System.nanoTime () при обновлении позиций моего объекта в моей игре? Их изменение в движении прямо пропорционально времени, прошедшему с момента последнего звонка, и я хочу быть максимально точным. Я...
Итак, я получил ответ на мой последний вопрос (я не знаю, почему я не подумал об этом). Я печатал doubleиспользование, coutкоторое округлилось, когда я не ожидал этого. Как я могу сделать coutпечать с doubleиспользованием полной...
Я хотел отобразить число до 2 десятичных знаков. Я думал, что мог бы использовать toPrecision(2)в JavaScript. Однако, если номер есть 0.05, я получу 0.0500. Я бы предпочел, чтобы это осталось прежним. Смотрите это на JSbin . Каков наилучший способ сделать это? Я могу подумать о кодировании...
У меня есть следующий столбец, указанный в базе данных: десятичный (5,2) Как можно это интерпретировать? В соответствии со свойствами столбца, которые отображаются в SQL Server Management Studio, я вижу, что это означает: десятичное число (точность чисел, числовой масштаб). Что означают точность и...
Как точно построить временную отметку реального времени с точностью до миллисекунд? Мне нужно что-то вроде 16.4.2013 9: 48: 00: 123. Это возможно? У меня есть приложение, в котором я выбираю значения 10 раз в секунду, и мне нужно показать их на...
Почему некоторые числа теряют точность при хранении в виде чисел с плавающей запятой? Например, десятичное число 9.2может быть выражено точно как отношение двух десятичных целых чисел ( 92/10), оба из которых могут быть выражены точно в двоичном ( 0b1011100/0b1010). Однако, то же самое отношение,...
Я пытаюсь получить сумму 1 + 2 + ... + 1000000000, но я получаю смешные результаты в PHP и Node.js . PHP $sum = 0; for($i = 0; $i <= 1000000000 ; $i++) { $sum += $i; } printf("%s", number_format($sum, 0, "", "")); // 500000000067108992 Node.js var sum = 0; for (i = 0; i <= 1000000000; i++) {...
Недавно мне пришлось сериализовать двойник в текст, а затем вернуть его обратно. Значение кажется не эквивалентным: double d1 = 0.84551240822557006; string s = d1.ToString("R"); double d2 = double.Parse(s); bool s1 = d1 == d2; // -> s1 is False Но в соответствии с MSDN: Стандартные строки...
В чем разница между операцией с плавающей запятой одинарной точности и операцией с плавающей запятой двойной точности? Меня особенно интересуют практические термины в отношении игровых приставок. Например, есть ли в Nintendo 64 64-битный процессор и означает ли это, что он способен выполнять...
Нет, это не другой вопрос «Почему (1 / 3.0) * 3! = 1» . В последнее время я много читаю о числах с плавающей запятой; в частности, как один и тот же расчет может дать разные результаты для разных архитектур или настроек оптимизации. Это проблема для видеоигр, в которых хранятся повторы или они...
Я знаю, что 0.1десятичное число не может быть представлено точно конечным двоичным числом ( объяснение ), поэтому double n = 0.1потеряет некоторую точность и не будет точно 0.1. С другой стороны, 0.5можно представить именно так, как оно есть 0.5 = 1/2 = 0.1b. Сказав, что понятно, что добавление 0.1...
public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } Приведенный выше код печатает: 11.399999999999 Как мне заставить это просто напечатать (или быть в состоянии использовать это как)...
Я делаю программу, в которой мне нужно получить время в миллисекундах. Под временем я имею в виду число, которое никогда не равно самому себе и всегда на 1000 чисел больше, чем было секунду назад. Я пробовал преобразовать DateTime.Nowв a TimeSpanи получить TotalMillisecondsот этого ... но слышал,...
Используя только ANSI C, есть ли способ измерить время с точностью до миллисекунд или более? Я просматривал time.h, но нашел только функции второй
Я новичок в JavaScript и просто обнаружили toFixed()и toPrecision()в круглых цифрах. Однако я не могу понять, в чем разница между ними. В чем разница между number.toFixed()и
В R есть опция для управления отображением цифр. Например: options(digits=10) Предполагается, что до конца R-сессии будет выдавать 10-значные результаты вычислений. В файле справки R определение параметра digits выглядит следующим образом: digits: контролирует количество цифр для печати при печати...
Это был вопрос, который мне задали во время моего недавнего интервью, и я хочу знать (на самом деле я не помню теорию численного анализа, поэтому, пожалуйста, помогите мне :) Если у нас есть какая-то функция, которая накапливает числа с плавающей запятой: std::accumulate(v.begin(), v.end(), 0.0);...
Есть ли printfспецификатор ширины, который можно применить к спецификатору с плавающей запятой, который автоматически форматировал бы вывод до необходимого количества значащих цифр , чтобы при сканировании строки обратно было получено исходное значение с плавающей запятой? Например, предположим,...