Perguntas com a marcação «ieee-754»

É sabido que os NaNs se propagam em aritmética, mas não consegui encontrar nenhuma demonstração, então escrevi um pequeno teste: #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits<float>::quiet_NaN(); float neg = -qNaN; float sub1 = 6.0f - qNaN; float sub2 = qNaN - 6.0f; …

300 c++  c  floating-point  ieee-754  icc 

Por que as comparações de valores de NaN se comportam de maneira diferente de todos os outros valores? Ou seja, todas as comparações com os operadores ==, <=,> =, <,> em que um ou ambos os valores são NaN retornam falso, ao contrário do comportamento de todos os outros valores. …

267 floating-point  comparison  nan  ieee-754  iec10967 

Qual é o maior número inteiro "não flutuante" que pode ser armazenado em um tipo duplo IEEE 754 sem perder a precisão?

225 types  floating-point  double  ieee-754 

O tipo de dados flutuante é um ponto flutuante IEEE 754 de precisão única de 32 bits e o tipo de dados duplo é um ponto flutuante IEEE 754 de precisão dupla de 64 bits. O que isso significa? E quando devo usar float em vez de duplo ou vice-versa?

220 java  floating-point  double  ieee-754 

Para maior clareza, se estou usando uma linguagem que implementa IEE 754 floats e declaro: float f0 = 0.f; float f1 = 1.f; ... e depois imprimi-los novamente, receberei 0,0000 e 1,0000 - exatamente. Mas o IEEE 754 não é capaz de representar todos os números ao longo da linha …

162 types  floating-point  ieee-754 

Eu sei que a maioria dos decimais não tem uma representação exata de ponto flutuante (a matemática do ponto flutuante está quebrada? ). Mas não vejo por que 4*0.1é bem impresso 0.4, mas 3*0.1não é, quando ambos os valores realmente têm representações decimais feias: >>> 3*0.1 0.30000000000000004 >>> 4*0.1 0.4 …

158 python  floating-point  rounding  floating-accuracy  ieee-754 

Não, essa não é outra pergunta "Por que (1 / 3,0) * 3! = 1" . Ultimamente tenho lido sobre pontos flutuantes; especificamente, como o mesmo cálculo pode fornecer resultados diferentes em diferentes arquiteturas ou configurações de otimização. Esse é um problema para jogos de vídeo que armazenam replays ou …

155 c#  .net  floating-point  precision  ieee-754 

É possível obter divisão por 0 (ou infinito) no exemplo a seguir? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } Em casos normais, isso não acontecerá, é claro. Mas, ae se bestiver muito …

131 floating-point  double  floating-accuracy  ieee-754 

PHP é famoso por seu malabarismo de tipos. Devo admitir que isso me intriga, e estou tendo dificuldade em descobrir coisas lógicas / fundamentais básicas em comparações. Por exemplo: se $a > $bé verdadeiro e $b > $cverdadeiro, isso significa que sempre$a > $c é verdadeiro também? Seguindo a lógica …

115 php  if-statement  comparison  logic  ieee-754 

>>> (float('inf')+0j)*1 (inf+nanj) Por quê? Isso causou um bug desagradável no meu código. Por que 1a identidade multiplicativa não está dando (inf + 0j)?

97 python  nan  ieee-754 

Eu li sobre ponto flutuante e entendo que NaN pode resultar de operações. Mas não consigo entender o que são conceitos exatamente. Qual a diferença entre eles? Qual pode ser produzido durante a programação C ++? Como programador, eu poderia escrever um programa que causasse um sNaN?

96 floating-point  nan  ieee-754 

Em JavaScript, o valor NaN pode ser representado por uma ampla variedade de dobras de 64 bits internamente. Especificamente, qualquer duplo com a seguinte representação bit a bit: x111 1111 1111 xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx É interpretado como um NaN. Minha …

12 javascript  ieee-754