Perguntas com a marcação «floating-point»

Os números de ponto flutuante são aproximações de números reais que podem representar intervalos maiores que números inteiros, mas usam a mesma quantidade de memória, ao custo de menor precisão. Se sua pergunta é sobre pequenos erros aritméticos (por exemplo, por que 0,2 + 0,1 é igual a 0,300000001?) Ou erros de conversão decimal, leia a página "informações" vinculada abaixo antes de postar.

Obter parte decimal de um número com JavaScript

Eu tenho números flutuantes como 3.2e 1.6. Preciso separar o número na parte inteira e decimal. Por exemplo, um valor de 3.2seria dividido em dois números, ie 3e0.2 Obter a parte inteira é fácil: n = Math.floor(n); Mas estou tendo problemas para obter a parte decimal. Eu tentei isso: remainer …

247 javascript floating-point numbers decimal rounding

Adicionar valor de ponto flutuante aos recursos / valores do Android

Estou tentando adicionar um pouco de espaço entre as linhas aos meus TextViews usando android:lineSpacingMultiplier a documentação : Espaçamento extra entre linhas de texto, como um multiplicador. Deve ser um valor de ponto flutuante, como "1,2". Como estou usando isso em alguns TextViews diferentes, gostaria de adicionar uma dimensão / …

243 android resources floating-point

Como uso a divisão de ponto flutuante no bash?

Estou tentando dividir duas larguras de imagem em um script Bash, mas o bash me fornece 0o resultado: RESULT=$(($IMG_WIDTH/$IMG2_WIDTH)) Estudei o guia Bash e sei que devo usar bc, em todos os exemplos na internet que eles usam bc. Em echoTentei colocar a mesma coisa na minha SCALE, mas não …

242 bash floating-point arithmetic-expressions

JSON Python serializa um objeto decimal

Eu tenho um Decimal('3.9')como parte de um objeto, e gostaria de codificar isso para uma string JSON que deve se parecer {'x': 3.9}. Eu não me importo com precisão no lado do cliente, então um float é bom. Existe uma boa maneira de serializar isso? JSONDecoder não aceita objetos decimais, …

242 python json floating-point decimal

Por que o hash do infinito do Python tem os dígitos de π?

O hash do infinito no Python tem dígitos correspondentes ao pi : >>> inf = float('inf') >>> hash(inf) 314159 >>> int(math.pi*1e5) 314159 Isso é apenas uma coincidência ou é intencional?

241 python math hash floating-point pi

round () para float em C ++

Eu preciso de uma função simples de arredondamento de ponto flutuante, assim: double round(double); round(0.1) = 0 round(-0.1) = 0 round(-0.9) = -1 Eu posso encontrar ceil()e floor()no math.h - mas não round(). Está presente na biblioteca C ++ padrão com outro nome ou está faltando?

232 c++ floating-point rounding

Converter carros alegóricos em polegadas em Pandas?

Eu tenho trabalhado com dados importados de um CSV. O Pandas mudou algumas colunas para flutuar, agora os números nessas colunas são exibidos como pontos flutuantes! No entanto, preciso que eles sejam exibidos como números inteiros ou sem vírgula. Existe uma maneira de convertê-los em números inteiros ou não exibir …

230 python pandas floating-point integer dataset

maior número inteiro que pode ser armazenado em um duplo

Qual é o maior número inteiro "não flutuante" que pode ser armazenado em um tipo duplo IEEE 754 sem perder a precisão?

225 types floating-point double ieee-754

Formatar Flutuar em n casas decimais

Eu preciso formatar um float para "n" casas decimais. estava tentando BigDecimal, mas o valor de retorno não está correto ... public static float Redondear(float pNumero, int pCantidadDecimales) { // the function is call with the values Redondear(625.3f, 2) BigDecimal value = new BigDecimal(pNumero); value = value.setScale(pCantidadDecimales, RoundingMode.HALF_EVEN); // here …

220 java android floating-point numbers format

Tipo de dados flutuante e duplo em Java

O tipo de dados flutuante é um ponto flutuante IEEE 754 de precisão única de 32 bits e o tipo de dados duplo é um ponto flutuante IEEE 754 de precisão dupla de 64 bits. O que isso significa? E quando devo usar float em vez de duplo ou vice-versa?

220 java floating-point double ieee-754

Como restringir um valor flutuante a apenas duas casas após o ponto decimal em C?

Como arredondar um valor flutuante (como 37,777779) para duas casas decimais (37,78) em C?

215 c floating-point decimal

Formatar um ponto flutuante com 2 casas decimais

Atualmente, estou construindo um módulo de vendas para um site de clientes. Até agora, eu tenho o preço de venda para calcular perfeitamente, mas onde eu fiquei preso está formatando a saída para 2 casas decimais. Atualmente, estou chamando isso de uma variável para que eu possa vincular os resultados …

210 c# variables floating-point decimal

Como verificar se um valor flutuante é um número inteiro

Estou tentando encontrar a maior raiz do cubo que é um número inteiro, que é menor que 12.000. processing = True n = 12000 while processing: n -= 1 if n ** (1/3) == #checks to see if this has decimals or not Não sei como verificar se é um …

202 python floating-point

Por que os números de ponto flutuante são imprecisos?

Por que alguns números perdem a precisão quando armazenados como números de ponto flutuante? Por exemplo, o número decimal 9.2pode ser expresso exatamente como uma razão de dois números inteiros decimais ( 92/10), os quais podem ser expressos exatamente em binário ( 0b1011100/0b1010). No entanto, a mesma proporção armazenada como …

198 floating-point language-agnostic precision

Usando OR bit a bit para somar um número

Um colega meu encontrou um método para calcular números flutuantes usando um bit a bit ou: var a = 13.6 | 0; //a == 13 Estávamos conversando sobre isso e imaginando algumas coisas. Como funciona? Nossa teoria era que o uso de um operador desse tipo lança o número para …

192 javascript floating-point bit-manipulation

Ao utilizar nosso site, você reconhece que leu e compreendeu nossa Política de Cookies e nossa Política de Privacidade.

Licensed under cc by-sa 3.0 with attribution required.