Perguntas com a marcação «floating-point»

Os números de ponto flutuante são aproximações de números reais que podem representar intervalos maiores que números inteiros, mas usam a mesma quantidade de memória, ao custo de menor precisão. Se sua pergunta é sobre pequenos erros aritméticos (por exemplo, por que 0,2 + 0,1 é igual a 0,300000001?) Ou erros de conversão decimal, leia a página "informações" vinculada abaixo antes de postar.

Qual é a maneira mais eficaz de comparação flutuante e dupla?

Qual seria a maneira mais eficiente de comparar dois doubleou dois floatvalores? Simplesmente fazer isso não está correto: bool CompareDoubles1 (double A, double B) { return A == B; } Mas algo como: bool CompareDoubles2 (double A, double B) { diff = A - B; return (diff < EPSILON) && …

524 c++ algorithm optimization floating-point

Como formatar bem números flutuantes para String sem zero desnecessário decimal?

Um duplo de 64 bits pode representar inteiro +/- 2 53 exatamente Dado esse fato, optei por usar um tipo duplo como um tipo único para todos os meus tipos, pois meu maior número inteiro é sem sinal de 32 bits. Mas agora eu tenho que imprimir esses pseudo números …

496 java string floating-point format double

Como você arredondar para cima um número em Python?

Este problema está me matando. Como um arredondamento para um número UP em Python? Eu tentei arredondar (número), mas arredondar o número para baixo. Exemplo: round(2.3) = 2.0 and not 3, what I would like O que eu tentei int (número + 0,5), mas arredondar o número novamente! Exemplo: int(2.3 …

487 python floating-point integer rounding python-2.x

Especificador de formato correto para double in printf

Qual é o especificador de formato correto para doubleno printf? É %fou é %lf? Eu acredito que é %f, mas não tenho certeza. Amostra de código #include <stdio.h> int main() { double d = 1.4; printf("%lf", d); // Is this wrong? }

482 c floating-point printf double format-specifiers

Como formatar um flutuador em javascript?

Em JavaScript, ao converter de um float para uma string, como posso obter apenas 2 dígitos após o ponto decimal? Por exemplo, 0,34 em vez de 0,3445434.

427 javascript floating-point

Qual é a diferença entre float e double?

Eu li sobre a diferença entre precisão dupla e precisão única. No entanto, na maioria dos casos, floate doubleparece ser intercambiável, ou seja, o uso de um ou de outro não parece afetar os resultados. É este realmente o caso? Quando os carros alegóricos e duplos são intercambiáveis? Quais são …

420 c++ c floating-point precision

Como obter um número aleatório entre um intervalo de flutuação?

randrange(start, stop)leva apenas argumentos inteiros. Então, como eu obteria um número aleatório entre dois valores flutuantes?

414 python random floating-point

Como analisar float com duas casas decimais em javascript?

Eu tenho o seguinte código. Gostaria de tê-lo de tal forma que, se price_result igual a um número inteiro, digamos 10, gostaria de adicionar duas casas decimais. Então 10 seria 10,00. Ou, se for igual a 10,6, seria 10,60. Nao tenho certeza de como fazer isso. price_result = parseFloat(test_var.split('$')[1].slice(0,-1));

411 javascript floating-point

Quão perigoso é comparar valores de ponto flutuante?

Eu sei UIKitusosCGFloat devido ao sistema de coordenadas independente da resolução. Mas cada vez que eu quero verificar se, por exemplo, frame.origin.xé 0que me faz sentir doente: if (theView.frame.origin.x == 0) { // do important operation } Não é CGFloatvulnerável a falsos positivos ao comparar com ==, <=, >=, <, …

391 objective-c ios c floating-point floating-accuracy

Como converter float para int com Java

Usei a seguinte linha para converter float em int, mas não é tão preciso quanto eu gostaria: float a=8.61f; int b; b=(int)a; O resultado é: 8(deve ser 9) Quando a = -7.65f, o resultado é: -7(Deve ser -8) Qual é a melhor maneira de fazer isso?

342 java floating-point int

Como imprimo um valor duplo com precisão total usando cout?

Então, eu recebi a resposta para minha última pergunta (não sei por que não pensei nisso). Eu estava imprimindo um doubleuso coutque era arredondado quando não esperava. Como faço para coutimprimir doubleusando precisão total?

332 c++ floating-point precision iostream cout

Qual é a melhor maneira de comparar carros alegóricos para quase igualdade no Python?

É sabido que comparar carros alegóricos pela igualdade é um pouco complicado devido a problemas de arredondamento e precisão. Por exemplo: https://randomascii.wordpress.com/2012/02/25/comparing-floating-point-numbers-2012-edition/ Qual é a maneira recomendada de lidar com isso no Python? Certamente existe uma função de biblioteca padrão para isso em algum lugar?

332 python floating-point

JavaScript exibindo um ponto flutuante com 2 casas decimais

Eu queria exibir um número com 2 casas decimais. Eu pensei que poderia usar toPrecision(2)em JavaScript. No entanto, se o número for 0.05, eu entendo 0.0500. Eu prefiro que continue o mesmo. Veja no JSbin . Qual é a melhor maneira de fazer isso? Posso pensar em codificar algumas soluções, …

316 javascript floating-point precision

O que a constante 0.0039215689 representa?

Eu continuo vendo essa constante aparecer em vários arquivos de cabeçalho de gráficos 0.0039215689 Parece ter algo a ver com cor, talvez? Aqui está o primeiro hit no Google : void RDP_G_SETFOGCOLOR(void) { Gfx.FogColor.R = _SHIFTR(w1, 24, 8) * 0.0039215689f; Gfx.FogColor.G = _SHIFTR(w1, 16, 8) * 0.0039215689f; Gfx.FogColor.B = _SHIFTR(w1, …

310 c floating-point constants magic-numbers

Double vs. BigDecimal?

Eu tenho que calcular algumas variáveis de ponto flutuante e meu colega sugere que eu use em BigDecimalvez de, doublepois será mais preciso. Mas quero saber o que é e como tirar o máximo proveito BigDecimal?

303 java floating-point double bigdecimal

Ao utilizar nosso site, você reconhece que leu e compreendeu nossa Política de Cookies e nossa Política de Privacidade.

Licensed under cc by-sa 3.0 with attribution required.