Programação floating-point

30

A matemática do ponto flutuante está quebrada?

Para obter mais informações sobre Stack Overflow no Stack Overflow : Clique aqui para obter mais informações sobre o Stack Overflow Considere o seguinte código: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Por que essas imprecisões acontecem?

2983 math language-agnostic floating-point floating-accuracy

27

Como analiso uma string em um float ou int?

No Python, como posso analisar uma string numérica como "545.2222"seu valor flutuante correspondente 545.2222? Ou analise a string "31"em um número inteiro 31? Eu só quero saber como analisar um float str para a floate (separadamente) um int str para um int.

2252 python parsing floating-point type-conversion integer

12

Por que o GCC não otimiza a * a * a * a * a * a para (a * a * a) * (a * a * a)?

Estou fazendo alguma otimização numérica em um aplicativo científico. Uma coisa que notei é que o GCC otimiza a chamada pow(a,2), compilando-a a*a, mas a chamada pow(a,6)não é otimizada e na verdade chama a função de biblioteca pow, o que diminui bastante o desempenho. (Por outro lado, o compilador Intel …

2120 gcc assembly floating-point compiler-optimization fast-math

18

Diferença entre decimal, float e double no .net?

Qual é a diferença entre decimal, floate doubleem .NET? Quando alguém usaria um desses?

2086 .net floating-point double decimal

25

Limitando flutuadores a duas casas decimais

Eu quero aser arredondado para 13,95 . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 A roundfunção não funciona da maneira que eu esperava.

1691 python floating-point rounding precision

30

Como verifico se uma string é um número (float)?

Qual é a melhor maneira possível de verificar se uma string pode ser representada como um número no Python? A função que atualmente tenho atualmente é: def is_number(s): try: float(s) return True except ValueError: return False O que, não só é feio e lento, parece desajeitado. No entanto, eu não …

1609 python casting floating-point type-conversion

5

Por que alterar 0,1f para 0 diminui o desempenho em 10x?

Por que esse pedaço de código, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.790, 1.812, 1.923, 2.034, 2.145, 2.256, 2.367, 2.478, 2.589, 2.690}; float y[16]; for …

1527 c++ performance visual-studio-2010 compilation floating-point

15

Por que não usar Double ou Float para representar moeda?

Sempre me disseram para nunca representar dinheiro com doubleou com floattipos, e desta vez faço a pergunta para você: por quê? Tenho certeza de que há uma boa razão, simplesmente não sei o que é.

939 floating-point currency

7

Existe um tipo de entrada flutuante em HTML5?

De acordo com html5.org , o atributo de valor "do tipo de entrada" número ", se especificado e não estiver vazio, deve ter um valor que seja um número de ponto flutuante válido". No entanto, é simplesmente (na versão mais recente do Chrome), um controle "atualizado" com números inteiros, não …

819 html input floating-point

30

Formate o número para sempre mostrar 2 casas decimais

Gostaria de formatar meus números para exibir sempre duas casas decimais, arredondando, quando aplicável. Exemplos: number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35 Eu tenho usado isso: parseFloat(num).toFixed(2); Mas está exibindo 1como 1, e não 1.00.

783 javascript floating-point number-formatting

30

Como usar um valor de etapa range () decimal?

Existe uma maneira de alternar entre 0 e 1 por 0,1? Eu pensei que poderia fazê-lo da seguinte forma, mas falhou: for i in range(0, 1, 0.1): print i Em vez disso, diz que o argumento step não pode ser zero, o que eu não esperava.

744 python floating-point range

11

Como posso forçar a divisão a ser ponto flutuante? Divisão continua arredondando para 0?

Eu tenho dois valores inteiros ae b, mas preciso da proporção deles em ponto flutuante. Eu sei disso a < be quero calcular a / b, portanto, se eu usar a divisão inteira, sempre receberei 0 com o restante a. Como forçar ca ser um número de ponto flutuante no …

721 python floating-point integer division python-2.x

13

Converter decimal em dobro

Eu quero usar um Track-Barpara mudar a Formopacidade de um. Este é o meu código: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Quando crio o aplicativo, ele fornece o seguinte erro: Não é possível converter implicitamente o tipo decimalparadouble Eu tentei usar transe, em doubleseguida, o Controlnão funciona. …

671 c# floating-point type-conversion double decimal

30

Como lidar com a precisão do número de ponto flutuante em JavaScript?

Eu tenho o seguinte script de teste fictício: function test() { var x = 0.1 * 0.2; document.write(x); } test(); Executar snippet de códigoOcultar resultadosExpandir snippet Isso imprimirá o resultado 0.020000000000000004enquanto deve ser impresso 0.02(se você usar sua calculadora). Tanto quanto eu entendi isso é devido a erros na precisão …

620 javascript floating-point

5

Por que Math.round (0.49999999999999994) retorna 1?

No programa a seguir, você pode ver que cada valor um pouco menor que o .5arredondado, exceto por 0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); System.out.println(x + " rounded is " + Math.round(x)); …

567 java floating-point double rounding

Perguntas com a marcação «floating-point»