Perguntas com a marcação «floating-point»

Os números de ponto flutuante são aproximações de números reais que podem representar intervalos maiores que números inteiros, mas usam a mesma quantidade de memória, ao custo de menor precisão. Se sua pergunta é sobre pequenos erros aritméticos (por exemplo, por que 0,2 + 0,1 é igual a 0,300000001?) Ou erros de conversão decimal, leia a página "informações" vinculada abaixo antes de postar.

Mantenha a precisão com o dobro em Java

public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } O código acima é impresso: 11.399999999999 Como eu conseguiria isso para imprimir (ou poder usá-lo como) 11.4?

149 java floating-point double precision

Como suprimir a notação científica ao imprimir valores flutuantes?

Aqui está o meu código: x = 1.0 y = 100000.0 print x/y Meu quociente é exibido como 1.00000e-05. Existe alguma maneira de suprimir a notação científica e torná-la exibida como 0.00001? Vou usar o resultado como uma string.

147 python floating-point

O que o ffast-math do gcc realmente faz?

Entendo que o --ffast-mathsinalizador do gcc pode aumentar muito a velocidade das operações flutuantes e fica fora dos padrões do IEEE, mas não consigo encontrar informações sobre o que realmente está acontecendo quando está ligado. Alguém pode explicar alguns detalhes e talvez dar um exemplo claro de como algo mudaria …

144 performance math gcc floating-point fast-math

Converta o número do ponto flutuante em uma certa precisão e copie para a string

Eu tenho um número de ponto flutuante, digamos 135.12345678910. Eu quero concatenar esse valor para uma string, mas só quero 135.123456789. Com a impressão, posso fazer isso facilmente fazendo algo como: print "%.9f" % numvar por numvarser meu número original. Existe uma maneira fácil de fazer isso?

144 python string floating-point

Exibir um flutuador com duas casas decimais em Python

Eu tenho uma função que aceita argumentos de flutuação (geralmente números inteiros ou decimais com um dígito significativo) e preciso gerar os valores em uma string com duas casas decimais (5 -> 5,00, 5,5 -> 5,50, etc.). Como posso fazer isso em Python?

136 python string programming-languages floating-point

É possível obter 0 subtraindo dois números desiguais de ponto flutuante?

É possível obter divisão por 0 (ou infinito) no exemplo a seguir? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } Em casos normais, isso não acontecerá, é claro. Mas, ae se bestiver muito …

131 floating-point double floating-accuracy ieee-754

Por que C não possui carros alegóricos não assinados?

Eu sei, a pergunta parece estranha. Os programadores às vezes pensam demais. Por favor, leia em ... No IC, use signede unsignednúmeros inteiros muito. Eu gosto do fato de o compilador me avisar se eu fizer coisas como atribuir um número inteiro assinado a uma variável não assinada. Recebo avisos …

131 c types floating-point format unsigned

Expressão C # Float: comportamento estranho ao converter o resultado float para int

Eu tenho o seguinte código simples: int speed1 = (int)(6.2f * 10); float tmp = 6.2f * 10; int speed2 = (int)tmp; speed1e speed2deve ter o mesmo valor, mas, na verdade, tenho: speed1 = 61 speed2 = 62 Eu sei que provavelmente deveria usar Math.Round em vez de converter, mas …

128 c# casting floating-point int expression

Como lidar com flutuadores e separadores decimais com o número do tipo de entrada html5

Estou criando um aplicativo da Web que é principalmente para navegadores móveis. Como estou usando campos de entrada com o tipo de número, a maioria dos navegadores móveis chama apenas o teclado numérico para melhorar a experiência do usuário. Este aplicativo da Web é usado principalmente em regiões onde o …

128 javascript jquery mobile floating-point html-input

Arredondar um número de ponto flutuante até o número inteiro mais próximo?

Como o título sugere, quero pegar um número de ponto flutuante e arredondá-lo para o número inteiro mais próximo. No entanto, se não for um todo, SEMPRE quero arredondar a variável, independentemente de quão próxima ela esteja do próximo número inteiro acima. Existe uma maneira de fazer isso?

127 python floating-point integer rounding

Por que Clang otimiza x * 1.0, mas NÃO x + 0.0?

Por que Clang otimiza o loop neste código #include <time.h> #include <stdio.h> static size_t const N = 1 << 27; static double arr[N] = { /* initialize to zero */ }; int main() { clock_t const start = clock(); for (int i = 0; i < N; ++i) { arr[i] …

125 c++ c optimization floating-point clang

Como obter números após o ponto decimal?

Como obtenho os números após um ponto decimal? Por exemplo, se eu tiver 5.55, como recebo .55?

124 python floating-point decimal

round () não parece estar arredondando corretamente

A documentação da função round () indica que você passa um número para ele e as posições passam do decimal para o arredondamento. Assim, deve fazer o seguinte: n = 5.59 round(n, 1) # 5.6 Mas, na verdade, a boa e velha estranheza de ponto flutuante aparece e você obtém: …

123 python floating-point rounding

Por que não posso usar o valor flutuante como um parâmetro do modelo?

Quando tento usar floatcomo parâmetro de modelo, o compilador chora por esse código, embora intfuncione bem. É porque não posso usar floatcomo parâmetro de modelo? #include<iostream> using namespace std; template <class T, T defaultValue> class GenericClass { private: T value; public: GenericClass() { value = defaultValue; } T returnVal() { …

120 c++ templates generics floating-point

String PHP para flutuar

Não estou familiarizado com o PHP e fiz uma pergunta rápida. Eu tenho 2 variáveis pricePerUnite InvoicedUnits. Este é o código que os define para valores: $InvoicedUnits = ((string) $InvoiceLineItem->InvoicedUnits); $pricePerUnit = ((string) $InvoiceLineItem->PricePerUnit); Se eu der a saída, obtenho os valores corretos. Vamos dizer 5000unidades faturadas e 1.00por preço. …

120 php string casting floating-point

Ao utilizar nosso site, você reconhece que leu e compreendeu nossa Política de Cookies e nossa Política de Privacidade.

Licensed under cc by-sa 3.0 with attribution required.