Perguntas com a marcação «floating-accuracy»

Para obter mais informações sobre Stack Overflow no Stack Overflow : Clique aqui para obter mais informações sobre o Stack Overflow Considere o seguinte código: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Por que essas imprecisões acontecem?

2983 math  language-agnostic  floating-point  floating-accuracy 

Eu sei UIKitusosCGFloat devido ao sistema de coordenadas independente da resolução. Mas cada vez que eu quero verificar se, por exemplo, frame.origin.xé 0que me faz sentir doente: if (theView.frame.origin.x == 0) { // do important operation } Não é CGFloatvulnerável a falsos positivos ao comparar com ==, <=, >=, <, …

391 objective-c  ios  c  floating-point  floating-accuracy 

O código a seguir está obviamente errado. Qual é o problema? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r  floating-point  floating-accuracy  r-faq 

De acordo com esta página java.sun, == é o operador de comparação de igualdade para números de ponto flutuante em Java. No entanto, quando eu digito este código: if(sectionID == currentSectionID) no meu editor e executar a análise estática, recebo: "JAVA0078 Valores de ponto flutuante comparados com ==" O que …

177 java  equality  floating-accuracy 

Eu sei que a maioria dos decimais não tem uma representação exata de ponto flutuante (a matemática do ponto flutuante está quebrada? ). Mas não vejo por que 4*0.1é bem impresso 0.4, mas 3*0.1não é, quando ambos os valores realmente têm representações decimais feias: >>> 3*0.1 0.30000000000000004 >>> 4*0.1 0.4 …

158 python  floating-point  rounding  floating-accuracy  ieee-754 

É possível obter divisão por 0 (ou infinito) no exemplo a seguir? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } Em casos normais, isso não acontecerá, é claro. Mas, ae se bestiver muito …

131 floating-point  double  floating-accuracy  ieee-754 

Estou tentando truncar números decimais em casas decimais. Algo assim: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2)faz exatamente a coisa certa, mas arredonda o valor. Eu não preciso do valor arredondado. Espero que isso seja possível em javascript.

95 javascript  floating-point  floating-accuracy 

Existe uma maneira de obter programaticamente o dobro que está mais próximo de 1.0, mas não é realmente 1.0? Uma maneira rápida de fazer isso seria memorizar o dobro em um número inteiro do mesmo tamanho e, em seguida, subtrair um. Da forma como os formatos de ponto flutuante IEEE754 …

88 c++  floating-point  floating-accuracy