Programação floating-point

18

Formatar carros alegóricos sem zeros à direita

Como formatar um flutuador para que não contenha zeros à direita? Em outras palavras, quero que a sequência resultante seja a mais curta possível. Por exemplo: 3 -> "3" 3. -> "3" 3.0 -> "3" 3.1 -> "3.1" 3.14 -> "3.14" 3.140 -> "3.14"

181 python formatting floating-point pretty-print

13

Como você arredonda um número de ponto flutuante no Perl?

Como arredondar um número decimal (ponto flutuante) para o número inteiro mais próximo? por exemplo 1.2 = 1 1.7 = 2

174 perl floating-point rounding

1

Um método rápido para arredondar um duplo para um int de 32 bits explicado

Ao ler o código-fonte de Lua , notei que Lua usa a macropara arredondar de a doublepara 32 bits int. Eu extraí o macro, e fica assim: union i_cast {double d; int i[2]}; #define double2int(i, d, t) \ {volatile union i_cast u; u.d = (d) + 6755399441055744.0; \ (i) = …

169 c++ c performance floating-point

11

Qual é a diferença entre uma operação de ponto flutuante de precisão simples e dupla?

Qual é a diferença entre uma operação de ponto flutuante de precisão única e operação flutuante de precisão dupla? Estou especialmente interessado em termos práticos em relação aos consoles de videogame. Por exemplo, o Nintendo 64 tem um processador de 64 bits e, se isso acontecer, isso significaria que era …

169 floating-point precision processor operations

6

Se eu copiar um float para outra variável, eles serão iguais?

Eu sei que usar ==para verificar a igualdade de variáveis de ponto flutuante não é uma boa maneira. Mas eu só quero saber isso com as seguintes declarações: float x = ... float y = x; assert(y == x) Desde que yé copiado x, a afirmação será verdadeira?

167 c++ floating-point

2

Qual é o primeiro número inteiro que um flutuador IEEE 754 é incapaz de representar exatamente?

Para maior clareza, se estou usando uma linguagem que implementa IEE 754 floats e declaro: float f0 = 0.f; float f1 = 1.f; ... e depois imprimi-los novamente, receberei 0,0000 e 1,0000 - exatamente. Mas o IEEE 754 não é capaz de representar todos os números ao longo da linha …

162 types floating-point ieee-754

5

Formatar / suprimir notação científica dos resultados da agregação do Python Pandas

Como se pode modificar o formato da saída de uma operação de grupo em pandas que produz notação científica para números muito grandes? Sei como formatar strings em python, mas não consigo aplicá-lo aqui. df1.groupby('dept')['data1'].sum() dept value1 1.192433e+08 value2 1.293066e+08 value3 1.077142e+08 Isso suprime a notação científica se eu converter …

162 python pandas floating-point scientific-notation number-formatting

4

Por que o valor do ponto flutuante de 4 * 0,1 fica bonito no Python 3, mas 3 * 0.1 não?

Eu sei que a maioria dos decimais não tem uma representação exata de ponto flutuante (a matemática do ponto flutuante está quebrada? ). Mas não vejo por que 4*0.1é bem impresso 0.4, mas 3*0.1não é, quando ambos os valores realmente têm representações decimais feias: >>> 3*0.1 0.30000000000000004 >>> 4*0.1 0.4 …

158 python floating-point rounding floating-accuracy ieee-754

6

Por que Double.MIN_VALUE não é negativo

Alguém pode esclarecer porque Double.MIN_VALUEnão é realmente o valor mínimo que o Doubles pode receber? É um valor positivo, e um Double pode, é claro, ser negativo. Entendo por que é um número útil, mas parece um nome pouco intuitivo, especialmente quando comparado a Integer.MIN_VALUE . Ligá-lo Double.SMALLEST_POSITIVEou MIN_INCREMENTsimilar teria …

157 java numbers floating-point

16

Compare carros alegóricos em php

Eu quero comparar dois carros alegóricos em PHP, como neste código de exemplo: $a = 0.17; $b = 1 - 0.83; //0.17 if($a == $b ){ echo 'a and b are same'; } else { echo 'a and b are not same'; } Neste código retorna o resultado da elsecondição …

157 php floating-point

17

Como comparar dois números de ponto flutuante no Bash?

Estou tentando comparar dois números de ponto flutuante em um script bash. Eu tenho que variáveis, por exemplo let num1=3.17648e-22 let num2=1.5 Agora, eu só quero fazer uma comparação simples desses dois números: st=`echo "$num1 < $num2" | bc` if [ $st -eq 1]; then echo -e "$num1 < $num2" …

156 bash floating-point comparison numbers

9

Por que Double.NaN == Double.NaN retorna false?

Eu estava apenas estudando questões da OCPJP e encontrei esse código estranho: public static void main(String a[]) { System.out.println(Double.NaN==Double.NaN); System.out.println(Double.NaN!=Double.NaN); } Quando executei o código, obtive: false true Como está o resultado falsequando comparamos duas coisas que parecem iguais? O que NaNsignifica isso ?

155 java floating-point nan scjp ocpjp

10

A matemática de ponto flutuante é consistente em C #? Pode ser?

Não, essa não é outra pergunta "Por que (1 / 3,0) * 3! = 1" . Ultimamente tenho lido sobre pontos flutuantes; especificamente, como o mesmo cálculo pode fornecer resultados diferentes em diferentes arquiteturas ou configurações de otimização. Esse é um problema para jogos de vídeo que armazenam replays ou …

155 c# .net floating-point precision ieee-754

7

precisão 'float' vs. 'double'

O código float x = 3.141592653589793238; double z = 3.141592653589793238; printf("x=%f\n", x); printf("z=%f\n", z); printf("x=%20.18f\n", x); printf("z=%20.18f\n", z); lhe dará a saída x=3.141593 z=3.141593 x=3.141592741012573242 z=3.141592653589793116 onde na terceira linha de saída 741012573242é lixo e na quarta linha 116é lixo. Os duplos sempre têm 16 números significativos, enquanto os carros …

155 c floating-point

3

Por que adicionar 0,1 várias vezes permanece sem perdas?

Eu sei que o 0.1número decimal não pode ser representado exatamente com um número binário finito ( explicação ), por double n = 0.1isso perderá alguma precisão e não será exatamente 0.1. Por outro lado, 0.5pode ser representado exatamente porque é 0.5 = 1/2 = 0.1b. Dito isto, é compreensível …

152 java floating-point double precision

Perguntas com a marcação «floating-point»