Perguntas com a marcação «floating-point»

Os números de ponto flutuante são aproximações de números reais que podem representar intervalos maiores que números inteiros, mas usam a mesma quantidade de memória, ao custo de menor precisão. Se sua pergunta é sobre pequenos erros aritméticos (por exemplo, por que 0,2 + 0,1 é igual a 0,300000001?) Ou erros de conversão decimal, leia a página "informações" vinculada abaixo antes de postar.

2
Como realizar a divisão em Go
Estou tentando realizar uma divisão simples em Go. fmt.Println(3/10) Isso imprime 0 em vez de 0,3. Isso é meio estranho. Alguém poderia compartilhar o motivo por trás disso? eu quero realizar diferentes operações aritméticas no Go. obrigado
3
A conversão dupla para int não assinado no Win32 está truncando para 2.147.483.648
Compilando o seguinte código: double getDouble() { double value = 2147483649.0; return value; } int main() { printf("INT_MAX: %u\n", INT_MAX); printf("UINT_MAX: %u\n", UINT_MAX); printf("Double value: %f\n", getDouble()); printf("Direct cast value: %u\n", (unsigned int) getDouble()); double d = getDouble(); printf("Indirect cast value: %u\n", (unsigned int) d); return 0; } Saídas (MSVC …
2
Qual é a maneira correta / padrão de verificar se a diferença é menor que a precisão da máquina?
Frequentemente, acabo em situações em que é necessário verificar se a diferença obtida está acima da precisão da máquina. Parece que para esta finalidade R tem uma variável útil: .Machine$double.eps. No entanto, quando recorro ao código-fonte R para obter orientações sobre o uso desse valor, vejo vários padrões diferentes. Exemplos …
7
Quando usar float vs decimal
Estou criando esta API e o banco de dados armazenará valores que representam um dos seguintes: percentagem média taxa Sinceramente, não tenho idéia de como representar algo que o intervalo esteja entre 0 e 100% em números. Deveria ser 0,00 - 1,00 0,00 - 100,00 qualquer outra alternativa que eu …
1
Comportamento estranho de (^) em Haskell
Por que o GHCi fornece respostas incorretas abaixo? GHCi λ> ((-20.24373193905347)^12)^2 - ((-20.24373193905347)^24) 4.503599627370496e15 Python3 >>> ((-20.24373193905347)**12)**2 - ((-20.24373193905347)**24) 0.0 ATUALIZAÇÃO Eu implementaria a função de Haskell (^) da seguinte maneira. powerXY :: Double -> Int -> Double powerXY x 0 = 1 powerXY x y | y < 0 …
5
Soma estável eficiente de números ordenados
Eu tenho uma lista bastante longa de números positivos de ponto flutuante ( std::vector<float>, tamanho ~ 1000). Os números são classificados em ordem decrescente. Se eu somar eles seguindo a ordem: for (auto v : vec) { sum += v; } Acho que posso ter algum problema de estabilidade numérica, …
Ao utilizar nosso site, você reconhece que leu e compreendeu nossa Política de Cookies e nossa Política de Privacidade.
Licensed under cc by-sa 3.0 with attribution required.