Perguntas com a marcação «numeric-precision»

Estou ciente de que a aritmética de ponto flutuante tem problemas de precisão. Normalmente, eu os supero alternando para uma representação decimal fixa do número ou simplesmente negligenciando o erro. No entanto, não sei quais são as causas dessa imprecisão. Por que existem tantos problemas de arredondamento nos números flutuantes?

62 floating-point  numeric-precision 

Linguagens de programação como Scheme (R5RS) e Python ( consulte esta pergunta ) são arredondadas para o número inteiro par mais próximo quando o valor está exatamente entre os números inteiros ao redor. Qual é o raciocínio por trás disso? Existe uma ideia matemática que facilite o raciocínio dos cálculos …

44 scheme  numbers  numeric-precision  python-3.x 

Ao investigar a precisão dos números de ponto flutuante, vi em alguns lugares uma declaração semelhante a " float e double são ( projetados para / usados ​​frequentemente em ) engenharia e cálculo científico " Pelo meu entendimento, a força dos carros alegóricos e duplos é a quantidade de memória …

33 floating-point  numeric-precision 

Os computadores têm problemas para armazenar números fracionários em que o denominador é outra coisa que não uma solução para 2 ^ x. Isso ocorre porque o primeiro dígito após o decimal vale 1/2, o segundo 1/4 (ou 1 / (2 ^ 1) e 1 / (2 ^ 2)) etc. …

24 numbers  numeric-precision 

Ao criar um aplicativo que lida com muitos cálculos matemáticos, encontrei o problema de que certos números causam erros de arredondamento. Embora eu entenda que o ponto flutuante não é exato , o problema é como lido com os números exatos para garantir que, quando os cálculos sejam feitos neles, …

18 floating-point  numeric-precision 

Em números, é muito importante ser capaz de identificar esquemas instáveis ​​e melhorar sua estabilidade. Como identificar cálculos instáveis ​​de ponto flutuante? Estou trabalhando em uma simulação muito complexa, onde muitos esquemas numéricos trabalham juntos e estou procurando um método para identificar suas partes fracas. Estou trabalhando em um modelo …

15 numbers  numeric-precision 

Estou tentando pensar em como eu faria cálculos em números extremamente grandes (até o infinito - não interfere em flutuações) se a construção da linguagem for incapaz de lidar com números maiores que um determinado valor. Tenho certeza de que não sou o primeiro nem o último a fazer essa …

15 math  variables  numeric-precision 

Ao revisar a implementação de uma função de outro programador para calcular a CDF de distribuição normal , sugeri substituir a implementação inteira pelas funções internas do Python ou usar o SciPy, uma biblioteca científica comum. Outro programador apontou que math.erfc()nem scipy.stats.norm.cdf()fornece garantias de precisão em sua documentação. Portanto, eu …

9 documentation  math  floating-point  numeric-precision