Perguntas com a marcação «floating-point»

Os números de ponto flutuante são aproximações de números reais que podem representar intervalos maiores que números inteiros, mas usam a mesma quantidade de memória, ao custo de menor precisão. Se sua pergunta é sobre pequenos erros aritméticos (por exemplo, por que 0,2 + 0,1 é igual a 0,300000001?) Ou erros de conversão decimal, leia a página "informações" vinculada abaixo antes de postar.

7
Fundido para int x chão
Existe alguma diferença entre estes: float foo1 = (int)(bar / 3.0); float foo2 = floor(bar / 3.0); Pelo que entendi, ambos os casos têm o mesmo resultado. Existe alguma diferença no código compilado?
120 c++  c  floating-point 
29
Truncando flutuadores em Python
Quero remover dígitos de um ponto flutuante para ter um número fixo de dígitos após o ponto, como: 1.923328437452 -> 1.923 Preciso dar saída como string para outra função, não imprimir. Também quero ignorar os dígitos perdidos, não arredondá-los.
7
Convertendo String em Float em C #
Estou convertendo uma string como "41.00027357629127" e estou usando; Convert.ToSingle("41.00027357629127"); ou float.Parse("41.00027357629127"); Esses métodos retornam 4,10002732E + 15 . Quando eu converter para float, quero "41.00027357629127". Esta string deve ser a mesma ...
10
“F” após o número
O que o fdepois dos números indica? É de C ou Objective-C? Existe alguma diferença em não adicionar isso a um número constante? CGRect frame = CGRectMake(0.0f, 0.0f, 320.0f, 50.0f); Você pode explicar por que eu não apenas escreveria: CGRect frame = CGRectMake(0, 0, 320, 50);
4
O que é float em Java?
Eu escrevi este código: float b = 3.6; e eu entendo: Erro: problema de compilação não resolvido: Tipo incompatível: não é possível converter de duplo para flutuante Por quê? Qual é a definição de float?
19
Converter String em Float em Swift
Estou tentando converter números retirados de um UITextField, que presumo que sejam na verdade Strings, e convertê-los em Float, para que possa multiplicá-los. Eu tenho dois UITextfields que são declarados da seguinte forma: @IBOutlet var wage: UITextField @IBOutlet var hour: UITextField Quando o usuário pressiona um UIButton, quero calcular os …
11
Cálculos de ponto flutuante vs inteiro em hardware moderno
Estou fazendo um trabalho crítico de desempenho em C ++ e atualmente estamos usando cálculos inteiros para problemas que são inerentemente de ponto flutuante porque "é mais rápido". Isso causa muitos problemas irritantes e adiciona muitos códigos irritantes. Agora, eu me lembro de ter lido sobre como os cálculos de …
14
Formatar floats com módulo json padrão
Estou usando o módulo json padrão em python 2.6 para serializar uma lista de flutuadores. No entanto, estou obtendo resultados como este: >>> import json >>> json.dumps([23.67, 23.97, 23.87]) '[23.670000000000002, 23.969999999999999, 23.870000000000001]' Eu quero que os flutuadores sejam formatados com apenas dois dígitos decimais. A saída deve ser semelhante a …
7
Aviso C ++: divisão de duplo por zero
Caso 1: #include <iostream> int main() { double d = 15.50; std::cout<<(d/0.0)<<std::endl; } Compila sem avisos e imprime inf. OK, C ++ pode lidar com divisão por zero, ( veja ao vivo ). Mas, Caso 2: #include <iostream> int main() { double d = 15.50; std::cout<<(d/0)<<std::endl; } O compilador dá …
Ao utilizar nosso site, você reconhece que leu e compreendeu nossa Política de Cookies e nossa Política de Privacidade.
Licensed under cc by-sa 3.0 with attribution required.