Excel Странная дополнительная цифра

2

В Excel 2007/2010 я получаю это странное поведение:

Formula in cell: =2.6+1.4+4.62-8.2
Result in cell: 0.420000000000002000

Странные дополнительные «2» около 14DP. Может кто-нибудь объяснить, почему это происходит, пожалуйста?

microsoft-excel microsoft-excel-2010 j0nr
источник
3
Это, вероятно, результат вычислений с плавающей запятой. (Компьютеры обычно не рассчитывают в десятичной системе. Вместо этого они используют двоичные файлы, часто двоичные, глубиной около 80 бит. Это обычно достаточно близко, но не точно и приводит к ошибкам округления).
Хеннес
1
Это действительно из-за десятичных расчетов и не является ошибкой.
Ramhound
1
Вот достойная MS KB по теме: support.microsoft.com/en-us/kb/214118
Байрон Уолл
Возможно, потому что компьютерная математика с плавающей запятой на самом деле неточна и ухудшается по мере того, как вы продвигаетесь в десятичных разрядах.
Oort

Ответы:

1

Как уже упоминалось в комментариях, это не ошибка. Это происходит из-за неизбежной неточности арифметики с плавающей запятой из-за конечного числа битов, доступных для хранения значений, что приводит к приблизительному представлению, которое становится очевидным при отображении более значимых цифр.

Вот несколько полезных статей для вас:

Каран
источник