Perguntas com a marcação «double»

O tipo de dados flutuante é um ponto flutuante IEEE 754 de precisão única de 32 bits e o tipo de dados duplo é um ponto flutuante IEEE 754 de precisão dupla de 64 bits. O que isso significa? E quando devo usar float em vez de duplo ou vice-versa?

220 java  floating-point  double  ieee-754 

Hoje, eu estava procurando por um código C ++ (escrito por outra pessoa) e encontrei esta seção: double someValue = ... if (someValue < std::numeric_limits<double>::epsilon() && someValue > -std::numeric_limits<double>::epsilon()) { someValue = 0.0; } Estou tentando descobrir se isso faz sentido. A documentação para epsilon()diz: A função retorna a diferença …

214 c++  double 

Recentemente, tive que serializar um duplo no texto e depois recuperá-lo. O valor parece não ser equivalente: double d1 = 0.84551240822557006; string s = d1.ToString("R"); double d2 = double.Parse(s); bool s1 = d1 == d2; // -> s1 is False Mas, de acordo com o MSDN: Strings de formato numérico …

185 c#  double  tostring  precision 

Eu preciso armazenar um duplo como uma string. Sei que posso usá-lo printfse quiser exibi-lo, mas só quero armazená-lo em uma variável de cadeia para que possa armazená-lo em um mapa mais tarde (como o valor , não a chave ).

171 c++  string  double 

Estou tentando fazer uma calculadora da taxa de crescimento ( Double) que arredondará o resultado para o número inteiro mais próximo e recalculará a partir daí, da seguinte forma: let firstUsers = 10.0 let growth = 0.1 var users = firstUsers var week = 0 while users < 14 { …

170 swift  int  double  rounding 

Como formatar a Doublepara a Stringem C # para ter apenas duas casas decimais? Se eu usar String.Format("{0:0.00}%", myDoubleValue)o número, ele será arredondado e eu quero um truncado simples, sem arredondamento. Eu também quero que a conversão Stringseja sensível à cultura.

153 c#  string  double 

Eu sei que o 0.1número decimal não pode ser representado exatamente com um número binário finito ( explicação ), por double n = 0.1isso perderá alguma precisão e não será exatamente 0.1. Por outro lado, 0.5pode ser representado exatamente porque é 0.5 = 1/2 = 0.1b. Dito isto, é compreensível …

152 java  floating-point  double  precision 

public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } O código acima é impresso: 11.399999999999 Como eu conseguiria isso para imprimir (ou poder usá-lo como) 11.4?

149 java  floating-point  double  precision 

Edit: Então, basicamente, o que estou tentando escrever é um hash de 1 bit double. Quero mapear uma doublepara trueou falsecom uma chance de 50/50. Para isso, escrevi um código que seleciona alguns números aleatórios (como exemplo, quero usar isso em dados com regularidades e ainda obter um resultado 50/50) …

139 java  random  double  bit-manipulation  probability 

Java tem algo para representar o infinito para cada tipo de dado numérico? Como é implementado para que eu possa fazer operações matemáticas com ele? Por exemplo int myInf = infinity; //However it is done myInf + 5; //returns infinity myInf*(-1); //returns negative infinity Tentei usar números muito grandes, mas …

138 java  double  infinity 

É possível obter divisão por 0 (ou infinito) no exemplo a seguir? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } Em casos normais, isso não acontecerá, é claro. Mas, ae se bestiver muito …

131 floating-point  double  floating-accuracy  ieee-754 

No momento, estou tentando isso: int a = round(n); onde nestá um, doublemas não está funcionando. O que estou fazendo de errado?

119 java  double  int  rounding 

Estou tendo alguns problemas para formatar os decimais de um duplo. Se eu tiver um valor duplo, por exemplo, 4.0, como formato os decimais para que seja 4,00?

118 java  formatting  double  decimal 

Existe uma função que pode truncar ou arredondar um Double? Em um ponto do meu código, gostaria de um número como: 1.23456789ser arredondado para1.23

117 scala  double  truncate  rounding 

Eu queria saber se havia uma maneira de obter o número de resultados de uma consulta MySQL e, ao mesmo tempo, limitar os resultados. A maneira como a paginação funciona (pelo que entendi), primeiro faço algo como query = SELECT COUNT(*) FROM `table` WHERE `some_condition` Depois de obter o num_rows …

115 mysql  pagination  double