Я знаю, что у арифметики с плавающей точкой есть проблемы точности. Я обычно преодолеваю их, переключаясь на фиксированное десятичное представление числа или просто игнорируя ошибку. Однако я не знаю, каковы причины этой неточности. Почему существует так много проблем округления с числами с...
Языки программирования, такие как Scheme (R5RS) и Python ( см. Этот Вопрос ), округляются до ближайшего четного целого числа, когда значение находится точно между окружающими целыми числами. В чем причина этого? Есть ли математическая идея, которая облегчает рассуждение о следующих вычислениях?...
Исследуя точность чисел с плавающей точкой, я видел в некоторых местах утверждение, подобное " float и double являются ( предназначены для / часто используются в ) инженерных и научных расчетов " Насколько я понимаю, сила чисел с плавающей точкой и двойников - это количество памяти, которое они...
Компьютеры имеют проблемы с хранением дробных чисел, где знаменатель - это нечто иное, чем решение 2 ^ x. Это потому, что первая цифра после десятичной дроби стоит 1/2, вторая 1/4 (или 1 / (2 ^ 1) и 1 / (2 ^ 2)) и т. Д. Зачем иметь дело со всевозможными ошибками округления, когда компьютер мог...
При создании приложения, которое занимается множеством математических вычислений, я столкнулся с проблемой, заключающейся в том, что определенные числа вызывают ошибки округления. Хотя я понимаю, что число с плавающей запятой не является точным , проблема заключается в том, как мне поступить с...
Я пытаюсь подумать о том, как бы я делал вычисления для чрезвычайно больших чисел (до бесконечности - без целых чисел), если языковая конструкция не способна обрабатывать числа, превышающие определенное значение. Я уверен, что я не первый и не последний, кто задает этот вопрос, но используемые мной...
В цифрах очень важно уметь определять нестабильные схемы и улучшать их стабильность. Как определить нестабильные вычисления с плавающей запятой? Я работаю над очень сложным моделированием, в котором многие числовые схемы работают вместе, и я ищу методику, позволяющую выявить ее слабые стороны. Я...
Рассматривая реализацию функции другого программиста для вычисления CDF нормального распределения , я предложил либо заменить всю реализацию встроенными функциями Python, либо использовать SciPy, общую научную библиотеку. Другой программист отметил, что ни math.erfc()не scipy.stats.norm.cdf()дает...