Вопросы с тегом «floating-point»

Полностью загрузить растр в массив Numpy?

Я пытался проверить мои фильтры на растре DEM для распознавания образов, и это всегда приводит к отсутствию последних строк и столбцов (например, 20) . Я пытался с библиотекой PIL, загрузка изображения. Тогда с NumPy. Выход такой же. Я подумал, что что-то не так с моими циклами, при проверке...

Точность при работе с пространственными данными в ГИС

Существует ли базовое или вводное исследование, которое изучает и сравнивает точность пространственных данных при работе с различной точностью ввода данных, например, с 1, 2, ... десятичными знаками? с различными реализациями с плавающей запятой (float, double)? с данными около экватора по...