Perguntas com a marcação «floating-point»

Freqüentemente, na minha experiência em programação, preciso tomar uma decisão se devo usar float ou double para meus números reais. Às vezes eu vou flutuar, às vezes eu vou dobrar, mas isso realmente parece mais subjetivo. Se eu fosse confrontado para defender minha decisão, provavelmente não daria razões sólidas. Quando …

194 c++  c  floating-point  numbers 

Em todos os lugares que eu olhei, diz que doubleé superior a floatquase todos os aspectos. floatficou obsoleto doubleem Java, então por que ainda é usado? Eu programo muito com o Libgdx e eles o forçam a usar float(deltaTime, etc.), mas me parece que doubleé mais fácil trabalhar com isso …

84 java  memory  floating-point  numbers 

Estou confuso sobre por que nos preocupamos com diferentes representações para zero positivo e negativo. Lembro-me vagamente das alegações de leitura de que ter uma representação zero negativa é extremamente importante na programação que envolve números complexos. Eu nunca tive a oportunidade de escrever código que envolva números complexos, por …

64 math  floating-point 

Estou ciente de que a aritmética de ponto flutuante tem problemas de precisão. Normalmente, eu os supero alternando para uma representação decimal fixa do número ou simplesmente negligenciando o erro. No entanto, não sei quais são as causas dessa imprecisão. Por que existem tantos problemas de arredondamento nos números flutuantes?

62 floating-point  numeric-precision 

C#possui o decimaltipo usado para números que precisam de representação exata na base 10. Por exemplo, 0.1não pode ser representado na base 2 (por exemplo, floate double) e sempre será uma aproximação quando armazenado em variáveis ​​desses tipos. Fiquei me perguntando se o fato inverso também era possível. Existem números …

42 c#  numbers  floating-point 

Existe uma alternativa aos bits como a menor unidade de dados? Algo que não será apenas 0 ou 1, mas na verdade mantém muitos estados possíveis no meio? Não seria mais natural armazenar carros alegóricos assim?

42 data  binary  floating-point  byte  bit 

Ao investigar a precisão dos números de ponto flutuante, vi em alguns lugares uma declaração semelhante a " float e double são ( projetados para / usados ​​frequentemente em ) engenharia e cálculo científico " Pelo meu entendimento, a força dos carros alegóricos e duplos é a quantidade de memória …

33 floating-point  numeric-precision 

Por exemplo, quero mostrar uma lista de botões de 0,0,5, ... 5, que salta para cada 0,5. Eu uso um loop for para fazer isso e tenho cores diferentes no botão STANDARD_LINE: var MAX=5.0; var DIFF=0.5 var STANDARD_LINE=1.5; for(var i=0;i<=MAX;i=i+DIFF){ button.text=i+''; if(i==STANDARD_LINE){ button.color='red'; } } Nesse caso, não deve haver …

31 javascript  coding-style  floating-point 

Eu estava assistindo http://www.joelonsoftware.com/items/2011/06/27.html e ri da piada de Jon Skeet sobre 0,3, não sendo 0,3. Pessoalmente, nunca tive problemas com flutuadores / decimais / duplos, mas lembro que aprendi 6502 muito cedo e nunca precisei de flutuadores na maioria dos meus programas. A única vez que o usei foi …

29 floating-point 

Eu estava lendo um artigo da Microsoft sobre como Ampliar conversões e Option Strict On quando cheguei à parte As conversões a seguir podem perder precisão: Inteiro para Único Longo a Simples ou Duplo Decimal para Simples ou Duplo No entanto, essas conversões não perdem informações ou magnitude. .. mas …

27 vb.net  floating-point 

Esta não é uma pergunta duplicada, pois li a pergunta anterior. Alguém pode me ajudar na compreensão how float values are stored in the memory. Minha dúvida é aqui valores flutuantes contêm ' .'( for example 3.45) como o '.'será representado na memória? Alguém pode me esclarecer com um diagrama?

20 c  memory  floating-point 

Ao criar um aplicativo que lida com muitos cálculos matemáticos, encontrei o problema de que certos números causam erros de arredondamento. Embora eu entenda que o ponto flutuante não é exato , o problema é como lido com os números exatos para garantir que, quando os cálculos sejam feitos neles, …

18 floating-point  numeric-precision 

Digamos que temos a seguinte classe Python (o problema existe em Java da mesma forma com equalse hashCode) class Temperature: def __init__(self, degrees): self.degrees = degrees onde degreesestá a temperatura em Kelvin como um flutuador. Agora, eu gostaria de implementar testes de igualdade e hash de Temperatureuma maneira que compara …

15 java  python  hashing  floating-point 

Tanto quanto me lembro de programar, fui ensinado a não comparar números de ponto flutuante para igualdade. Agora, ao ler Programação em Lua sobre o numbertipo Lua , encontrei o seguinte: O tipo de número representa números reais (ponto flutuante de precisão dupla). Lua não tem tipo inteiro, pois não …

11 lua  floating-point 

Ao revisar a implementação de uma função de outro programador para calcular a CDF de distribuição normal , sugeri substituir a implementação inteira pelas funções internas do Python ou usar o SciPy, uma biblioteca científica comum. Outro programador apontou que math.erfc()nem scipy.stats.norm.cdf()fornece garantias de precisão em sua documentação. Portanto, eu …

9 documentation  math  floating-point  numeric-precision