Часто в моем опыте программирования мне нужно принять решение, использовать ли мне float или double для моих реальных чисел. Иногда я иду на поплавок, иногда я иду на двойной, но на самом деле это кажется более субъективным. Если бы мне пришлось встать на защиту моего решения, я бы, вероятно, не...
В каждом месте, где я смотрел, написано, что doubleоно превосходит floatпочти во всех отношениях. floatбыл сделан устаревшим doubleв Java, так почему он все еще используется? Я много программирую на Libgdx, и они вынуждают вас использовать float(deltaTime и т. Д.), Но мне кажется, что с ними...
Меня смущает, почему мы заботимся о разных представлениях для положительного и отрицательного нуля. Я смутно припоминаю чтение утверждений, что наличие отрицательного нулевого представления чрезвычайно важно в программировании, которое включает в себя комплексные числа. У меня никогда не было...
Я знаю, что у арифметики с плавающей точкой есть проблемы точности. Я обычно преодолеваю их, переключаясь на фиксированное десятичное представление числа или просто игнорируя ошибку. Однако я не знаю, каковы причины этой неточности. Почему существует так много проблем округления с числами с...
Есть ли альтернатива битам как наименьшей единице данных? Что-то, что не будет только 0 или 1, но на самом деле содержит много возможных состояний между ними? Разве не было бы более естественным хранить такие...
C#имеет decimalтип, который используется для чисел, которые нуждаются в точном представлении в базе 10. Например, 0.1не может быть представлен в базе 2 (например, floatи double) и всегда будет приближенным при хранении в переменных этих типов. Мне было интересно, возможен ли обратный факт....
Исследуя точность чисел с плавающей точкой, я видел в некоторых местах утверждение, подобное " float и double являются ( предназначены для / часто используются в ) инженерных и научных расчетов " Насколько я понимаю, сила чисел с плавающей точкой и двойников - это количество памяти, которое они...
Например, я хочу показать список кнопок с 0,0,5, ... 5, которые переходят на каждые 0,5. Для этого я использую цикл for, и у кнопки STANDARD_LINE другой цвет: var MAX=5.0; var DIFF=0.5 var STANDARD_LINE=1.5; for(var i=0;i<=MAX;i=i+DIFF){ button.text=i+''; if(i==STANDARD_LINE){...
Я смотрел http://www.joelonsoftware.com/items/2011/06/27.html и смеялся над шуткой Джона Скита о 0,3, а не 0,3. Лично у меня никогда не было проблем с плавающими / десятичными / двойными числами, но потом я помню, что я выучил 6502 очень рано и никогда не нуждался в плаваниях в большинстве моих...
Когда я добрался до этой части, я читал статью от Microsoft о расширении конверсий и строгости опций. Следующие преобразования могут потерять точность: Целое число в одиночное Длинный в одинарный или двойной Десятичный в одинарный или двойной Однако эти преобразования не теряют информацию или...
Это не повторяющийся вопрос, поскольку я читал предыдущий вопрос. Может ли кто-нибудь помочь мне в понимании how float values are stored in the memory. Я сомневаюсь, что здесь значения с плавающей запятой содержат ' .'( for example 3.45), как '.'будет отображаться в памяти? Может кто-нибудь,...
При создании приложения, которое занимается множеством математических вычислений, я столкнулся с проблемой, заключающейся в том, что определенные числа вызывают ошибки округления. Хотя я понимаю, что число с плавающей запятой не является точным , проблема заключается в том, как мне поступить с...
Допустим, у нас есть следующий класс Python (проблема существует в Java точно так же с equalsи hashCode) class Temperature: def __init__(self, degrees): self.degrees = degrees где degreesтемпература в Кельвинах как поплавок. Теперь я хотел бы реализовать тестирование на равенство и хэширование...
Насколько я помню, программируя, меня учили не сравнивать числа с плавающей запятой на равенство. Теперь, читая Программирование на Lua о numberтипе Lua , я обнаружил следующее: Тип числа представляет действительные числа (числа с плавающей запятой двойной точности). У Lua нет целочисленного типа,...
Рассматривая реализацию функции другого программиста для вычисления CDF нормального распределения , я предложил либо заменить всю реализацию встроенными функциями Python, либо использовать SciPy, общую научную библиотеку. Другой программист отметил, что ни math.erfc()не scipy.stats.norm.cdf()дает...
В настоящее время я читаю «Конец ошибки - Unum Computing» Джона Густафсона ( Youtube ). Что я до сих пор не уверен, так это то, как дела, обработанные в IEEE с отрицательным знаком нуля , обрабатываются с помощью unums. Таким образом, прежде всего, unums позволяют представлять определенные точные...
При сравнении значений с плавающей запятой на равенство существует два разных подхода: NaNне равный самому себе, что соответствует спецификации IEEE 754 . NaNбыть равным самому себе, что обеспечивает математическое свойство рефлексивности, которое необходимо для определения отношения...
Мне сказали, что большинство современных компьютеров следуют одному и тому же стандарту с плавающей запятой, означает ли это, что все они получат один и тот же ответ с плавающей запятой для данной математической операции, если входные данные одинаковы? Я спрашиваю, потому что я исследую создание...