Можно ли в следующем примере получить деление на 0 (или бесконечность)? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } В обычных случаях, конечно, не будет. Но что, если aи bочень близки, может(a-b) быть 0связано с точностью расчета?...
Как следует из названия, я хочу взять число с плавающей запятой и округлить его до ближайшего целого числа. Однако, если это не целое, я ВСЕГДА хочу округлить переменную в меньшую сторону, независимо от того, насколько она близка к следующему целому числу вверх. Есть ли способ сделать...
У меня есть такой простой код: int speed1 = (int)(6.2f * 10); float tmp = 6.2f * 10; int speed2 = (int)tmp; speed1и speed2должно иметь такое же значение, но на самом деле у меня есть: speed1 = 61 speed2 = 62 Я знаю, что мне, вероятно, следует использовать Math.Round вместо приведения, но я хотел бы...
Я создаю веб-приложение, которое в основном предназначено для мобильных браузеров. Я использую поля ввода с числовым типом, поэтому (большинство) мобильных браузеров вызывает только цифровую клавиатуру для лучшего взаимодействия с пользователем. Это веб-приложение в основном используется в...
Почему Clang оптимизирует цикл в этом коде #include <time.h> #include <stdio.h> static size_t const N = 1 << 27; static double arr[N] = { /* initialize to zero */ }; int main() { clock_t const start = clock(); for (int i = 0; i < N; ++i) { arr[i] *= 1.0; } printf("%u ms\n",...
Как получить числа после десятичной точки? Например, если есть 5.55, как мне получить
В документации для функции round () указано, что вы передаете ей число, а позиции после десятичной дроби нужно округлять. Таким образом, он должен сделать это: n = 5.59 round(n, 1) # 5.6 Но, на самом деле, вкрадывается старая добрая странность с плавающей запятой, и вы получаете: 5.5999999999999996...
Я совсем не знаком с PHP, и у меня возник вопрос. У меня есть 2 переменные pricePerUnitи InvoicedUnits. Вот код, который устанавливает для них значения: $InvoicedUnits = ((string) $InvoiceLineItem->InvoicedUnits); $pricePerUnit = ((string) $InvoiceLineItem->PricePerUnit); Если я выведу это, я...
Когда я пытаюсь использовать floatв качестве параметра шаблона, компилятор требует этого кода, пока intработает нормально. Это потому, что я не могу использовать floatв качестве параметра шаблона? #include<iostream> using namespace std; template <class T, T defaultValue> class...
Есть ли разница между ними: float foo1 = (int)(bar / 3.0); float foo2 = floor(bar / 3.0); Насколько я понимаю, в обоих случаях результат одинаковый. Есть ли разница в скомпилированном...
У Джона Кармака есть специальная функция в исходном коде Quake III, которая вычисляет обратный квадратный корень из числа с плавающей запятой, в 4 раза быстрее обычного (float)(1.0/sqrt(x)), включая странную 0x5f3759dfконстанту. См. Код ниже. Может ли кто-нибудь объяснить построчно, что именно...
Я хочу удалить цифры из числа с плавающей запятой, чтобы иметь фиксированное количество цифр после точки, например: 1.923328437452 -> 1.923 Мне нужно выводить строку в другую функцию, а не печатать. Также я хочу игнорировать потерянные цифры, а не округлять...
Я конвертирую строку типа «41.00027357629127» и использую; Convert.ToSingle("41.00027357629127"); или float.Parse("41.00027357629127"); Эти методы возвращают 4.10002732E + 15 . Когда я конвертирую в float, я хочу «41.00027357629127». Эта строка должна быть такой же...
Я профилировал некоторые из наших основных математических вычислений на Intel Core Duo, и, глядя на различные подходы к вычислению квадратного корня, я заметил кое-что странное: используя скалярные операции SSE, быстрее получить обратный квадратный корень и умножить его. чтобы получить sqrt, чем...
Я читал о числах с плавающей запятой и понимаю, что NaN может быть результатом операций. Но я не могу понять, что именно это за концепции. В чем разница между ними? Какой из них можно создать при программировании на C ++? Могу ли я как программист написать программу, вызывающую сигнал SNAN?...
Это был вопрос, который мне задали во время моего недавнего интервью, и я хочу знать (на самом деле я не помню теорию численного анализа, поэтому, пожалуйста, помогите мне :) Если у нас есть какая-то функция, которая накапливает числа с плавающей запятой: std::accumulate(v.begin(), v.end(), 0.0);...
Я написал такой код: float b = 3.6; и я получаю это: Ошибка: нерешенная проблема компиляции: Несоответствие типов: невозможно преобразовать из double в float Зачем? Что такое определение float?...
Есть ли printfспецификатор ширины, который можно применить к спецификатору с плавающей запятой, который автоматически форматировал бы вывод до необходимого количества значащих цифр , чтобы при сканировании строки обратно было получено исходное значение с плавающей запятой? Например, предположим,...
Что означает fпосле цифр? Это от C или Objective-C? Есть ли разница в том, чтобы не добавлять это к постоянному числу? CGRect frame = CGRectMake(0.0f, 0.0f, 320.0f, 50.0f); Вы можете объяснить, почему я просто не написал: CGRect frame = CGRectMake(0, 0, 320, 50);...
Это просто для удовлетворения моего собственного любопытства. Есть ли реализация этого: float InvSqrt (float x) { float xhalf = 0.5f*x; int i = *(int*)&x; i = 0x5f3759df - (i>>1); x = *(float*)&i; x = x*(1.5f - xhalf*x*x); return x; } в ржавчине? Если он существует, отправьте код. Я...