Perguntas com a marcação «floating-point»

Eu tenho tentado verificar meus filtros no DEM raster para reconhecimento de padrões e isso sempre resulta em falta das últimas linhas e colunas (como 20) . Eu tentei com a biblioteca PIL, carregamento de imagem. Então com entorpecido. A saída é a mesma. Eu pensei que algo estava errado …

26 python  raster  gdal  numpy  floating-point 

Existe um estudo básico ou introdutório que examine e compare a precisão dos dados espaciais ao trabalhar com precisão variável da entrada de dados, como ter 1, 2, ... casas decimais? com as diversas implementações de pontos flutuantes (float, double)? com dados próximos ao equador em comparação com dados próximos …

22 gps  distance  wgs84  accuracy  floating-point 

Por acaso, descobri como o ArcMap exibe valores especiais de ponto flutuante para o usuário. + ∞ (infinito positivo) é exibido como 1.#INF –∞ (infinito negativo) supostamente seria exibido como -1.#INF- não verifiquei este. NaN (não um número) é exibido como alinhado à direita <Null>- não deve ser confundido com …

10 arcgis-desktop  arcmap  arcobjects  definition-query  floating-point